AIは本当に人類を滅ぼすのか？MITの専門家が深く解説

人工知能が猛スピードで進化する今、かつてSF小説の中にしか存在しなかった問いが、主要メディアの議論の場に持ち込まれている。AIは本当に私たち全員を殺すのか？

2026年9月、MIT Technology Reviewは購読者向けにオンライン座談会「Roundtables」を開催した。テーマはまさに、今や誰もが追い求めるこの問いだった。しかし、30分という持ち時間はまったく足りなかった——参加者から寄せられた質問の数と鋭さは、主催者の予想をはるかに超えていた。そこで、同誌のシニアAIエディターであるWill Douglas Heavenは同僚のGrace Huckinsとともに、当日答えられなかった質問をまとめて後日回答した。

質問に埋め尽くされた座談会

MIT Technology ReviewのRoundtablesシリーズは常に「論争に真正面から向き合う」ことで知られているが、今回のテーマは間違いなく最も重厚なものだった。当初30分の予定だったにもかかわらず、購読者からは「AIは制御不能になるのか」「大規模モデルの自己進化を恐れるべきか」「規制はすでに手遅れなのか」といった質問が次々と寄せられ、AIの存在論的リスクのほぼあらゆる側面を網羅するものとなった。

こうした不安には根拠がある。ここ数年、OpenAIからAnthropic、DeepMindからMetaに至るまで、トップクラスのAI研究機関のリーダーたちが公の場で「絶滅リスク」について繰り返し語ってきた。2023年には、数百人のAI科学者と業界リーダーが共同声明に署名し、AIによる絶滅リスクを核戦争やパンデミックと並ぶ地球規模の脅威と位置づけた。こうした表現は一方で公衆の警戒心を高めながら、他方で大きな認識上の混乱を生み出している。AIとは道具なのか、それとも目覚めつつある敵対者なのか？

「人々が本当に問いたいのは、AIが私たちを殺すかどうかではなく、私たちがまだそれを制御できるかどうかだ。」——これこそが、座談会を通じて繰り返し浮かび上がった本質的な問いだった。

恐怖と理性の間にある第三の道

Will Douglas Heavenは回答の中で、AIリスクを議論する際に最も陥りやすい誤りは「存在論的リスク」と「現実の害」を混同することだと強調した。前者が指すのは、極めて低確率ながら極めて高い影響を持つシナリオ——たとえば超知能システムが人間の制御を脱するような事態——であり、後者はすでに起きている具体的な問題——アルゴリズムによる差別、ディープフェイク、雇用への打撃、情報汚染——を指す。

この二つを混同すると、二つの極端に陥る。一つはAIリスクに対して完全に無感覚になり、「最悪の事態は賢い人たちが何とかしてくれる」と思い込むことであり、もう一つは終末論的な物語に取り込まれ、モデルのアップグレードのたびにカウントダウンの音を聞くことだ。Heavenが支持するのは第三の道、すなわち極端なリスクの研究を真剣に受け止めながら、現在進行中の害への対処も諦めないという姿勢だ。

これはAI安全分野における現在の主要な対立軸でもある。いわゆる「AI安全」陣営の内部は大きく二派に分かれる。一方は整合性（アライメント）研究に注力し、将来の超知能の目標を人間の価値観と一致させることを目指す。もう一方は現実における権力の集中、規制の形骸化、技術の濫用をより重視する。両派は必ずしも対立しているわけではないが、資源配分と政策の優先順位をめぐってしばしば摩擦が生じる。

なぜ公衆の問いは答えよりも重要なのか

注目すべきは、今回の座談会で最も価値があったのは、専門家が与えた答えではなく、購読者が提起した問い自体かもしれないという点だ。一般ユーザーが「モデルは欺く能力を持っているのか」「オープンソース化は制御不能を加速するのか」「企業の安全に関する約束をどう検証するのか」と問い始めたことは、AIリスクをめぐる議論が学術界や取締役会から公共の領域へと降りてきていることを示している。

Grace Huckinsも質疑応答を整理する中で、多くの質問者が「イエス」か「ノー」では満足せず、仕組みのレベルでの説明を求めていたと述べている。モデルがどのように学習され、どのように評価され、どのように制約されるのか、という問いだ。こうした詳細への渇望こそ、理性的な議論の基盤となる。

一方、業界自体も変化しつつある。モデルカード、システムカード、レッドチームレポートがますます多く公開され、AI企業は透明性によって信頼を得ようとし始めている。しかしこうした取り組みが十分かどうかは、いまだ疑問視されている。批評家たちは、自己評価は独立した監査の代わりにはなりえず、現在の規制の枠組みは国境をまたぐAI企業の前では力不足だと指摘する。

編集後記：恐怖に理性の座を奪わせるな

最初の問いに戻ろう——AIは本当に私たち全員を殺すのか？正直な答えはこうだ。誰にも分からない。しかしだからこそ、単純に陣営を選ぶのではなく、真剣に研究することが必要なのだ。

AIを終末と同一視すれば、すでに起きており緩和可能な害を見逃すことになる。一方でAIリスクを大げさな脅し文句と見なせば、本当に備えが必要なときに対応できなくなる。MIT Technology Reviewのこの座談会の意義は、確定的な答えを出すことにあったのではなく、一つの姿勢を示したことにある。未知に直面したとき、問い続け、厳密であり続け、そして謙虚であり続けること。

一般の読者に向けた最も実践的なアドバイスはおそらくこうだ。抽象的な恐怖ではなく具体的な仕組みに注目し、華やかな宣言ではなく検証可能な約束に注目せよ。AIが人類を滅ぼすかどうか、おそらく長い間答えは出ないだろう。しかし私たちは、それをどのように議論するかを選ぶことができる。

本稿はMIT Technology Reviewより編訳