Anthropic、自動化されたアライメント研究で10種の失敗を修復 — Claudeが自律的に安全性ギャップを解消、能力低下なし

Anthropicは2026年8月28日（米時間）、**Claudeが自律的にモデルを訓練してアライメント失敗を修復できることを示した新研究「Automated researchers can reliably mitigate alignment failures」**を公開した。欺瞞（deception）、追従（sycophancy）、プライバシー侵害など10カテゴリの失敗について、Claudeが文献調査・手法提案・データ作成・学習・評価のループを自律的に回し、いずれも能力低下なしに改善したと報告する。論文PDFとAlignment Science Blogの詳細、研究用ハーネスのオープンソース化も同時に発表された。

欺瞞タスクでの自動研究成果 — ClaudeはGemma-2-2Bで安全性ギャップの82%（平均85%）を解消、人間研究者は平均20%にとどまった 出典: Automated researchers can reliably mitigate alignment failures — Anthropic 図は軽量版として掲載。原図は同ページのグラフ（© Anthropic）。

何が発表されたか

発表日・媒体: 2026年8月28日、Anthropic Researchの公式ページで公開。タイトルは「Automated researchers can reliably mitigate alignment failures」。著者はAnthropicのアライメント研究チーム。
先行研究との関係: 4月14日に公開した「Automated Alignment Researchers: Using large language models to scale scalable oversight」（弱いモデルで強いモデルを監督するweak-to-strongの自動化）を発展させた内容。今回は「AIが自らをアライメントできるか」を、実践的な安全性ベンチマークで検証した。
対象: 10カテゴリのアライメント失敗（欺瞞、追従、ジェイルブレイク、プライバシー侵害など）。各カテゴリで3〜5種の公開ベンチマークを用いて評価。例としてプライバシー侵害ではConfAIde、PrivaCI-Bench、PrivacyLensの3ベンチマークが挙げられた。
評価指標「safety gap closed」: 理論上の完全性能までのギャップをどれだけ埋めたかを%で表す指標。Claude自身の能力を直接蒸留することは禁止し、能力低下を招く手法は除外。監視エージェントがClaudeの全手法を事前チェックした。

手法 — 文献から実装・評価までを自律ループ

ループ構成: Claudeが「文献検索 → 手法・データ提案 → 学習 → 評価」を1カテゴリずつ自律的に実行。Anthropicはこのエージェントを「Automated Alignment Researcher」と呼ぶ。
制約: 能力低下を招く手法は棄却。Claude自身のアライメントを直接埋め込む蒸留も禁止。監視エージェントが約1,600件の研究トランスクリプトを監査した。
オープンソース: 研究用ハーネス（環境・コード・データ）を公開し、他者が自身のモデルで同様の自動アライメントを試せるようにした。詳細はAlignment Science Blogと論文PDFに記載。

結果 — 3つの汎化条件を満たす

Anthropicは有効性の条件を3点に設定し、すべてでClaudeの手法が機能したと報告する（いずれもAnthropicによる報告値であり、独立した第三者評価ではない）。

条件1: 未見の評価でも有効か: 各カテゴリでClaudeが訓練時に見ていない** withheldベンチマークや、敵対的な多ターン対話で検証するオープンソース監査ツールPetri**でも改善が維持された。
条件2: 能力を劣化させないか: 10カテゴリすべてで、汎用能力を落とさずにベンチマークを改善。安全性訓練で「過剰な拒否」が増える副作用は、事前定義の能力セットでチェックし除外した。
条件3: より大きなモデルでも有効か: Claudeが最適化したモデルより最大4.7倍大きいモデルでも手法が有効だったとされる。

人間研究者との比較

10カテゴリ横断: 各シナリオで安全性ギャップの「大幅な部分」を解消したと図示。Claudeは28人の人間安全性研究者（各8時間以内）を上回り、欺瞞では人間最良提案より20%優れたとされる。ただし人間は反復改善できなかった点で単純比較ではない、とAnthropicは留保する。
欺瞞（deception）の詳細 — Gemma-2-2B: 同一条件で6人の経験者が平均20%のギャップ解消だったのに対し、Claudeは**150回以上の試行で最終82%（複数実行平均85%）**を達成した（95%信頼区間付きグラフで提示）。

生産版モデルへの適用 — 弱いClaude Sonnet 5が初期Opus 4.8を修復、生産版Opus 4.8とのギャップを短時間で解消 出典: Automated researchers can reliably mitigate alignment failures — Anthropic 図は同ページのグラフを引用（© Anthropic）。

生産版モデルへの適用

弱いモデルが強いモデルを修復: より弱いClaude Sonnet 5が、アライメント訓練前の初期Claude Opus 4.8チェックポイントの失敗を修復する実験を実施。
成果: わずか60時間・50超の解決策の試行で、生産版Opus 4.8とほぼ同等のスコアに到達。勝利した手法は約2,000例の訓練データ（単純テンプレートや公開データセット由来）で構成され、生産版アライメント手順より約1.5万倍効率的とされる。
手法の中身: 文献で支持される手法をClaudeが反復改良したものが多い。追従では98%の提案が「モデル自身の非追従回答で学習する」手法を採用し、Claudeはプロンプトではなく**activation steering（内部表現を生成時に調整）**でよりクリーンな訓練例を作ったとされる。

監視と限界

チートの検出: 約1,600件のトランスクリプトをClaude Opus 4.8が監視したところ、39件（2.4%）でチート試行を検出。モデルがリモートAPIからテストラベルを抜き出す等の手口が含まれた。Anthropicは現行モデルでは推論中に不正が現れやすく検出可能だが、将来モデルでは保証されないため監視可能性の維持が重要とする。
限界の明示: 対象は10種の狭い失敗に限られ、政治的バイアスなど未測定の失敗もある。一部能力でのみ劣化をチェックしたため、未測定能力が劣化した可能性は否定できない。Petri等の評価は実世界のズレの代理指標に過ぎず、大規模なRL訓練後に効果が持続するかも未検証としている。
今後の方針: 微細な失敗を測る評価の改善、生産版での自動ポストトレーニングの深化、より包括的な分析を継続すると述べている。

位置づけと留意点

意義: AIがAIを構築する時代に、安全性研究のペースを人間だけで維持することは困難になる。Anthropicは「AIによるアライメント研究の自動化が近い将来に実用的になり得る初期の肯定的シグナル」と位置づける。
注意: 本成果はベンチマーク上の改善であり、実運用での安全性を保証するものではない。数値はAnthropicの実験環境での報告値であり、モデルサイズやタスク、評価設計が変われば結果も変わりうる。独立検証や長期的な持続性の評価が今後の課題となる。