Anthropic内部関係者が公式に認める：AIが10年以内に人類を滅亡させる確率は10%超

2026年9月9日、Anthropicの事前学習研究員Jacob Coxonはソーシャルメディアで退職を発表し、その後『ウォール・ストリート・ジャーナル』に完全な声明を発表した。現在27歳のCoxonは、過去3年間にわたりOpenAIとAnthropicの両社で事前学習研究に従事してきた。退職投稿には次のように記されていた。「本日、Anthropicを退職した。両社とも責任ある行動を取っていない。彼らは自己改善型の超知性へと突き進み、私たちの命を賭けに使っている。」さらに彼は『ウォール・ストリート・ジャーナル』に対し、タイムラインが極めて切迫していると語った。「私たちは最もアグレッシブなシナリオの軌道上にある——来年末には、事態がすでに制御不能になっている可能性がある。」

一通の退職声明が持つ爆発力

CoxonはAnthropicの安全対策が偽物だと告発したわけではない。彼の主張は、安全対策そのものは本物だが、競争によってそれが不十分になっているというものだ。研究所内部の研究者たちは、現在の能力進歩の方向性を「クランチタイム（crunchtime）」「エンドゲーム（endgame）」という言葉で表現し始めている。彼は現在の開発環境をマンハッタン計画と比較し、こう述べた。「これがサンフランシスコの数人のエンジニアのMacBookで行われ、マンハッタン計画のように砂漠の地下壕ではないというのは、まったく狂っている。」彼はまた、一民間企業のSlackから「エンドゲーム」を起動することは「発動されるべきでなかった傲慢な賭け」だと記した。

最も重要なのは退職ではなく、Hubingerの反応だ

退職声明は注目を集めたが、業界内部に真の衝撃を与えたのは、AnthropicのアライメントサイエンスディレクターEvan HubingerがXプラットフォームに投稿した反応だった。Hubingerはこう書いた。「Jacobはここで正しい——私たちは本当に、AIが人類全員を殺す可能性があると誠実に信じている！個人的には、それが今後10年以内に起こる確率は10%を超えると考えている。Anthropicは最善を尽くしていると思うが、私たちはまだ超知性のアライメント問題の解決策を持っておらず、それを解決する明確な軌道にも乗っていない。」

この発言の情報密度は極めて高い。第一に、「10%超」という数字が、時価総額数百億ドルのトップAI研究所においてアライメント業務の主要責任者から発せられたものであること。第二に、Hubingerが「最善を尽くしている」ことと「解決策を持っている」ことを別物として区別していること。第三に、同社が「解決策を見出す明確な軌道に乗っていない」と述べており、これは現在の技術的方向性に対する評価であること。

『ウォール・ストリート・ジャーナル』の報道によれば、CoxonはこれをAI安全上の懸念からAnthropicの従業員が退職した初めての事例だと述べている。Hubingerが公式に反応したことは、内部の意見の相違がもはや沈黙によって管理できなくなったことを意味する。

リスクを知りながら加速する——これこそが核心的矛盾だ

Coxonは退職声明でOpenAIとAnthropicを区別している。OpenAIでは多くの人が文明レベルのリスクを深く内面化していないのに対し、Anthropicではリスクが十分に理解されていると述べた。しかしこれは称賛ではない。Anthropicは「先頭に到達するためのレースに縛り付けられている——他の誰も責任ある行動を取らないと信じているため、リスクがあるにもかかわらず自分たちがやらなければならないと考えている」と彼は述べた。

この論理は集団行動のジレンマの変形であり、その賭け金は文明の存続だ。「他の誰かが安全でない方法でやるから、私たちも安全でない方法でやらなければならない」という構造は、市場メカニズムや個々の企業の道徳的意思決定では解決できない。

Hubingerの表明はこれを裏付けている。彼は競争上の圧力を否定せず、リスクを認めつつも、「何もしないよりはまし」という弁護の枠組みを会社の選択に対して提供した。この弁護は一つの前提に依存している。もしAnthropicが撤退すれば、後継者はより悪い結果をもたらすという前提だ。

孤立した事例ではない：Pachockiの「異星の心」論文

Coxonが退職する3日前、OpenAIのチーフサイエンティストJakub Pachockiが『An Alien Mind（異星の心）』を発表した。Pachockiは、自社が追求するスケールでアライメント問題を解決した研究所は存在しないと認め、業界横断的な共通安全基準が確立されるまで業界全体として自発的に減速するよう呼びかけた。また彼は、内部の結果からOpenAIの現在の進歩速度が再帰的自己改善段階——AIシステムが自身の改善能力をさらに改善するフェーズ——へと継続し得ることが示されていると開示した。さらに、主要な安全検証手法である「思考連鎖モニタリング（chain-of-thought monitoring）」の信頼性がAIの能力向上とともに低下していることも率直に認めた。

同じ1週間のうちに2つの出来事が起きた。OpenAIのチーフサイエンティストがアライメント問題は未解決であると認め、Anthropicのアライメント責任者が滅亡確率の推定値を公表した。これは研究者レベルにおいて、最前線の研究所内部のコンセンサスと対外的な語り口との間に亀裂が生じていることを示している。

内なる恐怖と公開の表明

Coxonはこう記している。「これはマーケティングの噱頭ではない。実際、多くの幹部や上級研究者はメディアでは理性的に見せるために言葉を慎重に選んでいるが、私は同じ人々が非公式の場で恐怖を表明するのを耳にしてきた。」この一節は構造的問題を指摘している。公の場では投資家の期待、規制上の圧力、競争上の考慮、コミュニケーション戦略の制約があり、真の判断を直接口にすることは難しい。Hubingerの投稿はこの隔離を突き破り、明確な数字を用いて公開の場で内部の評価を語ったものだ。

独立した判断

CoxonのAnthropic退職とHubingerの反応は、これまで安全研究コミュニティ内部だけで流通していたリスク認識を、外部から引用可能な形で公的な議論の場へと持ち込んだ。これは次のことを証明している。最前線の研究所内部において、このリスクに対する真剣さの程度は、それらの企業がブランドコミュニケーションの中で示してきた水準を遥かに超えているということだ。

Anthropicの核心的な逆説はCoxonが描写した通りだ。すべての最前線研究所の中でリスクを最も深く理解している企業でありながら、その理解が減速という行動へと転化しない企業でもある。この逆説は内部のアライメント研究によって解決できない——問題は「内部」という二文字にある。文明の存続に関わる可能性のある技術競争が、強制力を持つ外部的な制約なく商業企業によって推進されるとき、いかなる個別行動者の道徳的自律も不十分となる。

Coxonは、政府の介入や業界全体の減速がない状況では、いかなる企業も人間の全能力を超えるAIシステムを安全に開発できないと考えている。この判断はHubingerの表明と矛盾しない。後者は企業が最善を尽くしていると述べ、前者はその最善では不十分だと述べており、両者は同時に真であり得る。