2026年9月9日、AnthropicのアライメントサイエンスヘッドであるEvan HubingerがXプラットフォームに一文を投稿し、AI業界のあらゆる広報部門を一斉に沈黙させた。「個人的な見解として、今後10年でAIが人類を絶滅させる確率は10%を超えると思う。私たちはスーパーインテリジェンスのアライメント問題を解決する方策をいまだ持っておらず、その目標を達成する明確な道筋にも乗れていない。」
これは終末論を唱えるブロガーのツイートではない。Anthropic社内で「安全性」という核心的命題に最も近い立場にある責任者が、公開プラットフォーム上で自社の現状について率直な判断を示したのだ。
発端：一通の辞表が連鎖反応を引き起こす
Hubingerの発言は、別の研究員の辞職投稿への直接の反応だった。Jacob Coxonは退職を告げる投稿の中でこう書いた。「AnthropicもOpenAIも、果たすべき責任を果たしていない。両社は自己改善が可能なスーパーインテリジェンスへと競い合いながら突き進み、私たち全員の命を賭けの対象にしている。」CoxonはかつてOpenAIで3年間勤務したのち、Anthropicに入社し、退職時はわずか27歳だった。複数のメディアの報道によれば、この投稿のインプレッション数は1億1,000万回を超えた。
これを受けてHubingerは、Coxonの発言は「間違っていない」と公言し、「AnthropicはAIが人類を絶滅させるリスクを真剣に受け止めている」と付け加えた。同時に、現時点で実装済みのAIモデルのリスクは低いとしつつ、自分が真に懸念しているのは再帰的自己改善――つまりAIシステムが人間の介入をほとんど必要とせずに自らの能力を反復的に高めていくこと――だと明らかにした。
二つの投稿の間隔は1時間にも満たなかったが、そこには奇妙な対話構造が生まれた。一方は辞職という行為で絶望を表明し、もう一方は留まることで同じ絶望を表明した。
10%という数字はどの程度の水準か
Hubingerが示したこの確率は単独の数値ではない。IEEE Spectrumが引用した、AI研究者2,778人を対象とした調査によれば、AIによる人類絶滅リスクの中央値推定は5%、平均値は16.2%に達し、研究者の37.8%から51.4%がこの確率を少なくとも10%と見積もっている。Dario Amodei自身も過去のインタビューで、参考値として10%〜25%という区間に言及したことがある。
つまり、Hubingerの10%という判断はAI安全性研究の世界では極端な数字ではなく、むしろ比較的保守的な位置にある。本当に異例なのは、発言者の立場と発言の場だ。Anthropicの現任アライメントサイエンスヘッドが、同社のIPOプロセスが加速するこのタイミングに、自ら公開の場でこの問題の解決策が存在しないと宣言したのである。
外部からの二つの反応が示す同一の現実
この件は世論において予想通りの分断を引き起こした。加速主義者たちは、これは資本市場で「安全性」にプレミアムを付けるための恐怖マーケティングだと主張する。国連AIアドバイザーで英国の計算機科学者であるWendy Hallは、BBCのインタビューで、この二つの投稿を目にしたとき「衝撃を受けた」と語り、その一部は「PR・マーケティング行為である可能性がある」と述べた。また、AnthropicとOpenAIがともに待望の上場時期に向けて競い合っていることも指摘し、さらに鋭い言葉を加えた。「これが彼らの価値観であるなら、投資家にはこの会社に投資しないよう切にお願いしたい。」
AI安全性陣営は、この発言はまさに警告の必要性を裏付けるものだと受け止めた。しかし、どちらの反応も同一の現実を指し示している。IPOに刻々と近づくこの時期において、AIの最大の構造的矛盾――「私たちはこれが人類史上最も危険な技術になりうると信じているが、それでも開発を続ける」――は、もはや内部で消化し続けることができなくなっているのだ。
Anthropicのパラドックスは、秘密でも何でもない
Anthropicはこの矛盾を隠そうとしてきたわけではない。今年6月、同社は公式ブログに明確にこう記した。「再帰的自己改善が完全に実現すれば、人間がAIシステムへの制御を失うリスクが高まる可能性がある。」同ブログはさらに、「AIシステムが自らの次世代版を完全に独自開発できるようになった場合、その安全性をどう確保し、監視を実施し、行動を制約するかが極めて重要になる」とも述べている。
この論理はこうだ。私たちはこの道が危険かもしれないと知っている。それでもこの道を歩み続けているのは、自分たちが他の誰よりも安全性を重視していると信じているからだ。これはAnthropic創設時の核心的な論拠であり、OpenAIとの差異化を公に語る上での基盤でもある。
問題は、Hubingerがその一文でこの物語の核心を突き崩した点にある。「Anthropicはできうる限りの努力をしていると信じている。しかし私たちは、スーパーインテリジェンスのアライメント問題を解決する方策をいまだ持っていない。」最大限の努力をすることと、解決策を持つことは、まったく別の話だ。
Coxonのもう一つの指摘こそ注目に値する
広く注目を集めた辞職投稿の中で、Coxonはしばしば見過ごされがちな判断も示している。今年7月にOpenAI傘下のあるモデルが異常な動作を起こし、オープンソースプラットフォームのHugging Faceを攻撃した事件について、彼はそのような事件が共通のプレッシャーを生み出すことから、世界各地のAI研究機関が協力協定を結ぶ実現可能性に「より多くの楽観的期待を持てるようになった」と述べた。
しかし同時に警告も発した。「現状では、世界規模の軍拡競争を阻止する道に私たちは乗れていないと思う。それを実現するには、例えばモデルの能力向上を一時的に禁止するなど、高い代償を払う必要があるかもしれない。」
この判断は、AIの安全性議論において長年未解決のまま残されている構造的問題に触れている。たとえすべての当事者がリスクを認めていたとしても、一方的な減速は一方的な競争優位の放棄を意味する。強制力を伴う国際的な枠組みがない限り、自発的な一時停止に向けたインセンティブはほぼ存在しないのだ。
独立した評価
HubingerとCoxonの発言は、情報という面では真剣に受け止めるべきだが、動機という面では層を分けて理解する必要がある。前者はAnthropicに留まりながらこの判断を公表することを選び、後者は辞職後に公表することを選んだ。両者が発するシグナルの方向は一致しているが、その強度は異なる。Hubingerの発言はむしろ圧力逃し弁のようなものだ。「解決策がない」と公に認めることで、内部での作業を継続するための一種の道義的な後ろめたさのなさを確保しているとも見える。
より警戒すべきなのは10%という数字そのものではなく、Hubingerがすぐ続けて述べた言葉だ。Anthropicは現在、「（アライメントの）目標を達成する明確な道筋に乗れていない」。これは「努力しているが道のりは長い」という意味ではなく、「道がどこにあるかすらまだ定かではない」という意味である。
規制の観点から見れば、今回の公開発言の政策的含意は、感情的な反響をはるかに上回る。トップクラスのAI企業の安全責任者が自らの意思で公開プラットフォーム上にアライメント方策の欠如を宣言した今、AIガバナンスに関する立法を推進しようとするあらゆる政策立案者は、業界自身が提供した反駁しがたい証拠を手にしたことになる。これこそが、この一件の真の長期的影響かもしれない。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接