AIは人類を滅亡させるか？MITの円卓討論、生物兵器の脅威をめぐり激論

編集注：人工知能の能力が月単位で急速に進化する中、「AIが人類を滅亡させるかどうか」という問いは、SF的な話題から真剣な公共議題へと変わりつつある。今週、MIT Technology Reviewはオンライン円卓討論を開催し、ますます多くの人々が問いかけるこの疑問に答えようと試みた。本稿では、討論の核心的な論点、業界の背景、そして注目すべきリスクシグナルを整理し、読者の参考に供する。

「AIによる人類滅亡」は杞憂に過ぎないのか？

MIT Technology ReviewのオンラインイベントRoundtablesは、「AIは本当に私たち全員を殺すことができるのか？」という問いを正面から取り上げた。一見極端に見えるこの問いは、現在のAI安全をめぐる議論の核心となっている。一方の立場は、モデルの能力が向上し続ける中で超知能がひとたび人間の制御を離れれば、その結果は取り返しのつかないものになりかねないと主張する。もう一方の立場は、「滅亡」というはるか遠い筋書きに注意を集中しすぎると、アルゴリズムによる差別、プライバシーの侵食、雇用への打撃といった、すでに現実に起きている被害が見えにくくなると指摘する。

討論における重要な対立点の一つは時間軸にある。存在論的リスクを主張する研究者は確率と長期的な推論によって論拠を示す傾向があり、批判側はそうした推論には検証可能な証拠の連鎖が欠けており、誇張へと滑り落ちやすいと反論する。注目すべきは、最も慎重な研究者でさえ、生物・サイバー攻防などの分野で最先端モデルが示す能力の跳躍シグナルは継続的な監視に値すると認めている点だ。2023年に大規模モデルの学習停止を求める公開書簡が発表されて以来、「AIの存在リスク」をめぐる論争は絶えることなく続いており、モデルの能力が一世代向上するたびに論争は再び燃え上がる。

生物兵器：より具体的で、より差し迫った一線

抽象的な「滅亡論」と比べると、AIが生物兵器の敷居を下げるという懸念はずっと具体的だ。生成AIモデルは文献調査、実験設計、さらにはタンパク質構造予測を補助することができ、これらの能力は正当な科学研究において非常に価値がある一方で、悪意ある行為者に悪用される可能性もある。業界でより広く共有されている判断は、真に警戒すべきなのはAIが突然「覚醒」して自ら病原体を作り出すことではなく、これまで高度な専門訓練を要した知識が、一般の人々でも入手できる情報へと圧縮されることだというものだ。

「私たちが本当に懸念しているのは、AIが悪意を持つことではなく、能力の拡散速度が社会的防護体制のアップグレード速度を上回ることだ。」

これが、ますます多くの規制の枠組みが「生物安全のレッドライン」をAIガバナンスに明記し始めている理由でもある。具体的には、高リスクな生物実験に関する操作的詳細のモデル出力の制限、レッドチームテストの仕組みの構築、先端研究所への安全評価結果の共有義務化などが挙げられる。ブレッチリーからソウルにかけて各国のAI安全サミットが繰り返し議論してきたのは、まさに正当な科学研究を妨げることなく、最も危険な一部の能力にいかにして鍵をかけるかという問題だ。

恐慌から行動へ：規制はどのように実施されるのか

AIリスクをめぐる議論は最終的に同じ問いに行き着く——次に何をすべきか？現在、業界ではおおむね三つの方向性が形成されている。第一は技術的アプローチで、アライメント研究、解釈可能性、安全ガードレールを通じてモデルが危険な行動を「実行したがらない」ようにすることだ。第二は制度的アプローチで、段階的な規制、モデル能力評価、強制的な情報開示義務が含まれる。第三は国際協調アプローチ——特に生物安全やサイバー攻防といった国境を越える問題では、単一国家による規制では対応が難しい。

課題もまた明確だ。規制が緩すぎればリスクは制御不能となり、厳しすぎればイノベーションが阻害され、先進的な能力が規制の弱い地域へ流出する恐れもある。より根本的な問題は、AI安全研究自体がいまだ初期段階にあり、多くのリスクについては「どのように測定するか」すら合意が得られておらず、明確な閾値の設定には程遠いという点だ。

結語：冷静を保つことは、恐慌に陥ることより難しい

この円卓討論の意義は、「AIが人類を滅亡させるかどうか」という問いに確定的な答えを与えることにあるのではなく、その問いを研究可能で、ガバナンス可能な具体的な議題へと分解することにあるのかもしれない。滅亡リスクは私たちに畏敬の念を持ち続けることを促し、生物兵器の脅威は早急な行動を求め、すでに現実に起きている被害は遠い未来ばかりを見つめないよう促している。一般の読者にとって最も現実的な姿勢は、「終末の物語」に安易に流されることなく、しかし能力の跳躍を見て見ぬふりもしないことかもしれない。

本稿はMIT Technology Reviewを元に編集・翻訳したものである。