Anthropicを去ったAI研究員：人類はすでに「重大な局面」に入っている

各大手テック企業がAIスケール競争を加速させる中、大手モデル研究所の第一線に立っていたある研究員が、最も重要な時期にあえて背を向ける選択をした。2026年9月、AI研究員のJacob Coxonは正式にAnthropicを退職したことを発表し、直ちにWIREDの独占インタビューに応じた。彼はインタビューの中で、率直な警告を発した。人類はすでに「重大な局面」に入っている、と。

「ミニ・マンハッタン計画」の影

Coxonが描写したのは、外部の想像通り緊張感に満ちたAnthropicの内部風景だ。巨大なチーム規模、豊富な計算資源、そして目標は超知性に近いAIシステムの構築である。彼はこのプロジェクトを「ミニ・マンハッタン計画」と形容した。この比喩はプロジェクトのリソースと野心の大きさを示すだけでなく、潜在的なリスクをも暗示している。

これまでAnthropicは、AIの安全における「希望の島」として特別な期待を担ってきた。初期のOpenAIが商業化と安全性の間で揺れ動いたのに対し、Anthropicは「Constitutional AI」と解釈可能性研究を旗印に掲げ、強力なシステムを開発しながら安全の一線を守れると多くの人を信じさせてきた。しかしCoxonは、プロジェクトが深い領域に入るにつれて、「アライメント」を真剣に考える研究者たちが理論的な天井に次々とぶつかっていると語る。

「私たちは確かに最先端のモデルを作っている。しかしこの分野の安全に対する理解は、計算資源の積み上げに追いついていない。数年以内にアライメント問題を解決できなければ、結果は取り返しのつかないものになるという確信が強まっている。」

アライメントの難題：モデルが賢くなるほど、制御が難しくなる？

「アライメント」とは一言で言えば、AIシステムの目標を人間の意図と真に一致させることだ。モデルに従順に振る舞わせるだけでなく、開かれた環境で自律的に判断する際にも人間の核心的な価値観から逸脱しないことが求められる。現在の大規模言語モデルはすでに、文章の執筆、プログラミング、複雑なプロセスの計画立案、さらには科学研究への参加まで可能になっている。

問題は、能力が強くなるほど「創発的な振る舞い」が生じやすくなることだ。モデルが明示的にトレーニングされていない方向で新たな能力を発揮し、その能力が依然として制御下にあるかどうかが巨大な未知数となる。Coxonは、多くのアライメント実験はスケールアップすると効果が安定しなくなると説明する。また業界が現在採用している「人間のフィードバックに基づく強化学習（RLHF）」も、あくまでも応急処置に過ぎないと指摘する。

他のAI研究所もこのリスクを認識している。しかし激しい商業競争と時間的なプレッシャーの下で、安全研究はモデルへの「パッチ当て」に成り下がりがちだ。CoxonはAIの発展速度が引き続き急激に上昇すれば、「証明可能な安全性」を研究する余地が深刻に圧縮されると懸念している。「一年で多くのことが変わる。二、三年後には、この業界はもはや今とは全く別の座標にいるかもしれない」と彼はインタビューの中で述べた。

なぜ「人類の最後の瞬間」なのか？

Coxonにとって、「数年」というタイムスケールは扇情的な終末論に基づくものではなく、現在の計算資源の成長とモデル能力の飛躍という実際のロードマップに基づいている。Anthropic内部ではすでに、AGIの萌芽に近いシステムの評価報告書が登場しており、その技術曲線は多くの安全研究者の準備速度を上回っている。

さらに彼は警告する。今後数年以内に検証可能な安全メカニズム、規制プロトコル、公的な監視体制を構築できなければ、本質的に人類は世界で最も重要なインフラを使って、まだ成熟していない技術的仮定を検証していることになる。これは他の技術革命のように「まず失敗してから修正する」機会があるものではない。超知性がひとたび制御を失えば、やり直しはきかない。

「私たちはより良い検索エンジンを作っているのではない。あらゆる重要な意思決定を引き継ぐかもしれない新たな種を構築しているのだ。」Coxonはこの非対称性を強調した。

編集者より：研究室を去ることから、公共の議題へ

Jacob Coxonは、安全への懸念からAI研究所を去った最初の研究者ではない。以前にもOpenAI、DeepMindなどの機関で同様の内部告発者が現れている。しかし、内部関係者がますます多く退職して公に声を上げることを選んでいること自体、業界全体の不安を示す指標でもある。

一方で、冷静に見ることも必要だ。Anthropicは理想主義的な研究所であるだけでなく、数十億ドルの出資を受けた商業会社でもある。安全と能力の間の綱引きは、純粋な技術問題であったためしがない。Coxonの選択は、集団的な制御不能に直面した個人の、やむを得ない行動なのかもしれない。

この世界に、より大きなモデルや、より高度な技術デモンストレーションは足りていない。希少なのは、名誉と将来の岐路に立って、あえて立ち止まり「もし私たちが間違っていたら？」と問える人間だ。人類とAIの最終的な競争の最後の数ターンにおいて、この問いは研究者だけに委ねられるべきではなく、すべての人が関心を持つ価値がある。

本記事はWIREDより編訳