AIは本当に人類を滅ぼすのか？研究所内部の関係者たちはこう語る

2026年9月14日、MIT Technology Reviewの日刊ニュースレター「The Download」が、使い古されたようでいて常に不安をかき立てる問いを提起した。先進人工知能は本当に人類を滅ぼしうるのか、という問いだ。今回、問いを立て答えるのは、SF作家でもSNS上の終末論者でもなく、世界最先端のAI研究所で実際に働く従業員たちである。

研究所内部から発せられる「人類絶滅への警告」

「The Download」の報道によれば、世界トップクラスのAI研究所の従業員たちが公然と、先進AIによる人類滅亡を「現実に存在しうる可能性」と口にし始めている。この言葉の重みは、発言者の立場にある――彼らは外部の批判者ではなく、これらのモデルを自らの手で訓練している当事者だ。

こうした「内部関係者の不安」は孤立した現象ではない。ここ数年、OpenAI、Anthropic、Google DeepMindといった最前線の研究所の研究者や退職者が、公開書簡、インタビュー、あるいは匿名の内部告発という形で同様の懸念を表明してきた。彼らの核心的な主張はシンプルだ。ほぼすべての認知タスクで人間を超えるシステムを作り上げることに成功しながら、その目標指向や行動の境界を確実にコントロールする手段を持たないならば、その結果は取り返しのつかないものになりうる、というのだ。

「問題はAIが『悪意を持っているか』どうかではなく、その行動が常に人間の利益と一致するよう保証できる能力が私たちにあるかどうかだ。」

円卓討論――大袈裟な煽りか、理性的な警鐘か

「The Download」今号は、この論争を円卓討論の形式で提示している。「現実のリスク」を支持する側は、現在のAI能力の向上スピードが安全研究の進捗を明らかに上回っており、典型的な「能力とアライメントのはさみ状のギャップ」が生じていると主張する。一方、反対意見の側は、AIリスクを単純に「人類絶滅」と同一視することで、より現実的な問題――アルゴリズムの偏り、プライバシーの侵食、雇用への打撃、権力の集中――から人々の目が逸らされると指摘する。

注目すべきは、この論争の真の対立点が「リスクが存在するかどうか」ではなく、「その確率はどれくらいか」と「何を優先すべきか」にあることが多い点だ。一方の陣営は解釈可能性、アライメント研究、ガバナンスの枠組みにリソースを投じるべきと主張し、もう一方は遠い超知能を語る前に、すでに起きている被害を先に解決すべきだと考える。この対立はAI業界内部の路線争いをも映し出している――能力を限界まで押し上げることを優先するのか、それとも先に安全の土台を固めることを優先するのか、という問いだ。

もう一つの戦線――眼を「若返らせる」

同号のニュースレターはまた、まったく異なる分野の進展にも注目している。眼を対象とした年齢逆転技術だ。関連研究は、部分的な再プログラミングなどエピジェネティクス的な手法により、老化した網膜神経節細胞や視神経を若い状態に回復させることを試みており、緑内障や視神経損傷など現在は逆転が困難な眼疾患に新たな可能性をもたらすものとして期待されている。

この技術の根底にある論理はこうだ。細胞の老化は「遺伝子発現プログラム」の乱れによるものが大部分であり、修復不可能なハードウェアの損傷ではない。エピジェネティクスのマーカーを安全にリセットしつつ、細胞が本来のアイデンティティを失わないようにできるならば、理論上は特定の組織の機能低下を遅らせ、あるいは逆転させることも可能だ。もちろん、安全性と制御可能性は依然として最大の障壁だ――再プログラミングと腫瘍リスクの境界は極めて微妙であり、一歩踏み外せば深刻な結果をもたらしかねない。

同じコインの裏と表

この二つのニュースを並べてみると、興味深い対比が浮かび上がる。一方では技術が制御不能なほど強力になることへの懸念があり、他方では技術が老化を逆転させるほど強力になることへの期待がある。両者は同じ根底にある能力を共有し、同じ不確実性をも共有している。読者にとって重要なのは、急いでどちらかの立場に与することではなく、問い続けることかもしれない――誰が技術の発展の方向性を決めているのか、そして誰が起こりうるリスクに責任を負うのか、と。

本記事はMIT Technology Reviewをもとに編訳したものです。