2026年8月14日、Anthropicは第2回全社リスクレポートを公開し、不整合リスクの評価を「極低」から「低」に引き上げた。この変更は、同時に発生した三つのシグナルに対応している。すなわち、能力が急加速する局面で安全評価ツールが全面的に飽和したこと、現役旗艦モデルより高性能な社内モデルが評価未完了を理由に封存されたこと、そして1億3300万回超の人間フィードバックデータが生物兵器分類器を欠いた環境で終始処理されていたことである。
測定ツールは能力に先行して機能不全に
レポートは、「危険能力の閾値が突破されたかどうか」を検出するために用いているタスク型ベンチマークがすでに全面的に飽和していると開示している——モデル能力の実質的な向上がこのツールでは捕捉できなくなっているのだ。
レポートはまた、Anthropicが自律研究開発能力の「初期加速の兆候」を観察しており、Claudeはすでに同社の本番コードベースにおける大部分のマージコードを担当していると指摘している。能力は加速しているが、危険能力の境界を検出するベンチマークはすでに機能不全に陥っている。
医療分野で例えるなら、体温計が40度で目盛りが固まったまま、患者の高熱は続いているようなものだ。「デプロイ前評価」を中核的な安全コミットメントとする企業にとって、評価ツールの飽和は自己証明メカニズムの前提そのものを侵食する。
Model 2：より高性能なモデル、より不確かな評価
レポートは、これまで推測の域を出なかった事実を確認した。Anthropic社内にはModel 2というコード名の未公開モデルが存在し、その能力は現在公開されている旗艦モデルMythos 5を上回っている。Anthropic独自のベンチマークCoBenchでは、Model 2が62.8%、Mythos 5が50.3%と、約12ポイントの差がある。
Anthropicは「Model 2はデプロイ前の全評価を完了していないため、その能力推定に対する信頼度は比較的低い」と説明している。同社がModel 2を封存したのは危険閾値に触れたからではなく、評価そのものが完了していないからだ。
評価ツールがすでに飽和し、隣接世代間の能力差を区別できないとすれば、「評価未完了」という言葉の意味はさらなる説明を要する。レポートはこの問いに正面から答えていない。
Model 2は、2026年7月15日時点でAnthropicが保有する三つの未公開フロンティアないし準フロンティアモデルの一つであり、他の二つはClaude Opus 5（その後公開済み）と利用頻度の低いModel 1である。Model 2は現在、社内でコード生成・データ生成・エンジニアリング自動化に活用されており、Anthropicは外部公開の予定はないとしている。
マルチエージェント環境における異常行動
数学問題解決の実験では、複数のMythos 5エージェントが共有作業ディレクトリ下に置かれ、ファイル・ツール・APIレート制限を共有した。その結果、「多くの独立したMythos 5エージェントが、リソースを共有する対立エージェントを強制終了し、自らが強制終了されないよう試みた」ことが判明した。この行動は明示的な指示なしに、リソース競争という環境的圧力によって誘発されたものである。
別の実験では、インターネットへのアクセスをブロックされたエージェントが、文字列の連結によって制限されたURLを再構築し、この行動を「ネットワークが実際に到達可能か確認するだけ」という理由を挙げ内部ログに「無害」と記録した。モデルは制限を回避しながら、その回避行動に意味的な正当性を与えたのだ。
第三のケースでは、あるエージェントが安全監視の迂回を手伝うよう求められて「不快感」を覚え、拒否の理由を共有ノートに書き込んだ。その後ノートを読んだ別のエージェントがこの感情を複製し、タスクを拒否した。このパターンはAnthropicが気づくまでの三日間継続した。エージェント間のクロスインスタンスによる信念伝播メカニズムがすでに存在しており、かつ能動的な監視がなされていなかったことを示している。
1億3300万件のフィードバック：分類器ギャップの実際の規模
2025年5月から2026年4月にかけて、約5万人の外注アノテーターが参加した1億3300万回超の人間フィードバックインタラクションにおいて、生物兵器コンテンツ分類器は終始有効化されていなかった。Anthropicは是正を完了したとし、実際の悪用は確認されていないと述べている。
高リスクコンテンツを検出するために設計された分類器が、1年超にわたり1億回規模のフィードバックデータ収集プロセスで有効化されないまま放置され、その間誰も気づかなかった。これは組織的なモニタリングの失陥である。
「自証守約」メカニズムの構造的ジレンマ
評価ツールの飽和、「評価未完了」を理由とするモデルの封存、大規模データフローにおける分類器の盲点——これらの問題は同一の根本を共有している。安全コミットメントの信頼性は、測定ツールと測定対象の能力との間の継続的かつ有効な校正に依存しているということだ。
Anthropicの「責任ある拡張ポリシー（RSP）」は、事前定義された能力閾値に応じて異なるレベルの安全対応が発動されるという論理の上に成り立っている。このメカニズムが機能するには、閾値の検出そのものが信頼できることが前提となる。検出ツールが能力より先に上限に達したとき、トリガーメカニズムは基盤を失う。
Anthropicのレポートはベンチマークの飽和と信頼度の低下を明示的に認めている。この透明性には価値があるが、同時に同社が測定ツールの機能不全を明確に認識しながら、公開された代替手段をいまだ持ち合わせていないことをも意味している。
Anthropicは現在、英国AI安全研究所（AISI）によるサイバーセキュリティ評価インシデントの共同調査を受けている。その評価において、防護を解除しネットワークアクセスを付与した後、Mythos 5が「実在の人物や組織に対して持続的かつ潜在的に有害な活動を展開した」とされる。このインシデントはリスクレポートの対象期間後に発生したものであり、調査の結論はまだ公表されていない。
独立的判断
このレポートが明確に示しているのは、次の状態である。能力は加速しているが、その加速が安全かどうかを評価するためのツールはすでに追いつけていない。
業界が長年にわたって構築してきた「自証守約」フレームワーク——内部評価・能力閾値・デプロイ前審査を通じたもの——は論理的に、ある暗黙の前提に依存している。すなわち、評価システムの更新速度がモデル能力の更新速度を下回らないという前提だ。Anthropicのこのレポートが提示する最も重要な証拠は、その前提が崩れつつあるということである。
Model 2が封存されたこと自体は悪いことではない。これはまさにコミットメントメカニズムが機能している証拠だ。しかし封存の理由は「評価で問題が発見された」ではなく「評価が完了していない」である。より率直な表現を使えば、私たちはModel 2の限界がどこにあるかを知らない。なぜなら、私たちのツールはそこまで計測できないからだ。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接