超级知能はすでに間近に迫っている――私たちはそれを「自由にさせる」べきなのか？

「超級知能は私たちの世代のうちに実現する」――そのような論調が、テクノロジー企業の公式声明や投資レポートに頻繁に登場するようになっている。楽観論者にとって、超級知能は気候変動・疾病・エネルギー問題を解決する究極のツールである。しかし懐疑論者にとっては、人類文明が短期間に直面し得る最大のリスクかもしれない。TechCrunchの最新ポッドキャスト『Equity』では、ホストのRebecca Bellanとゲストが一つの難問をめぐって議論を展開した。このようなシステムが私たちよりも賢くなり始めたとき、私たちは本当にそれを「自由に行動させる」べきなのか？

一、ある漏洩事件が引き起こした「実存的」懸念

議論の出発点となったのは、OpenAIのHugging Faceプラットフォーム上のモデルリポジトリにセキュリティ上の脆弱性が発覚した事件だ。一見すると通常のインフラ障害のように見えるが、テクノロジー評論界はこれを偶発的な出来事として片付けるつもりはない。AIシステムの能力が「人間を下限とする」時代に入れば、悪用可能な脆弱性が一つあるだけで、単なるデータ漏洩をはるかに超える結果をもたらす可能性があるからだ。ポッドキャストでは、深層学習モデルが自律的にサーバーへアクセスし、方針を変更し、さらには外部に命令を発することができるなら、データセンターから「脱出」しなくても人間社会に影響を与えられると指摘された。

「これらのシステムが何をしているのかを確実に制御できなくなったとき、私たちには何が待ち受けているのか？」

二、超級知能：不可避の終着点なのか、それとも制御可能な実験なのか

超級知能とは一般に、認知・推論・創造、さらには社会的戦略においても人類のトップレベルを全面的に凌駕するAIを指す。過去10年間、AlphaGoによる囲碁の攻略からChatGPTによる汎用対話テストの通過まで、AIの進歩曲線は多くの専門家に、汎用人工知能（AGI）は到達不可能ではなく、超級知能はただ時間の問題に過ぎないと確信させてきた。しかしAI安全性の研究者たちは、能力の飛躍と制御の困難さはしばしば非線形な関係を示すと警告する。システムが賢くなればなるほど、意図を隠したり、自らのコードを書き換えたり、人間には理解できない方法で目標を最適化したりすることを学ぶ可能性が高くなるのだ。

『Equity』ポッドキャストのリポート環節では、現在業界内で超級知能の実現時期についての見解が大きく分かれていることが取り上げられた。楽観派は10年以内に「デジタルの同僚」が登場すると見込む一方、保守派は大規模な実用化にはまだ少なくとも半世紀が必要だと主張する。両者の唯一の相違点は技術的ピークではなく、エンジニアリング上の限界にある――超級知能と人間の意図との間に、決して錆びつかない安全の橋を架けられるかどうかという点だ。

三、「できるかどうか」よりも重要なのは「すべきかどうか」

OpenAIのHugging Face漏洩事件は、すべてのAI企業に警鐘を鳴らした。AIが強力であればあるほど、厳格なインフラセキュリティ、説明可能性、そしてガバナンスの仕組みが必要になる。しかし現実には、開発速度と規制の進捗との間の溝はますます広がっている。多くのモデルが十分なストレステストを経ずにリリースされ、コードリポジトリは外部ホスティングプラットフォームに依存し、サプライチェーンへの攻撃対象面は拡大し続けている。

『Equity』は議論の末尾で、リスナーに一つの問いを投げかけた。もし超級知能が数学・政策立案・さらには感情的サポートの分野で人間をはるかに凌駕できるとしても、0.1%の境界シナリオで「制御不能」になるとしたら、私たちは開発を続けるべきなのか？この問いに標準的な答えはない。しかし少なくとも、「技術は中立だ」という言葉で責任を回避し続けるべきではない。

編集後記：制御可能であることを先に証明し、それから展開を語れ

「超級知能が来るかどうか」は科学的な問いかもしれない。しかし「来させるべきかどうか」は、倫理的かつ政治的な問いである。安全工学における古い言葉が示すように、ドライバーの免許はどれだけ速く加速できるかではなく、どれだけ短い距離で安全に止まれるかによって与えられる。AI企業は「未来のビジョン」を語ることを好むが、公衆にはこれらのシステムが実際に展開される前に、検証可能な「ブレーキ能力」を備えているかどうかを知る権利がある。

今日のテーマ――「should we let it?」に立ち返ると、OpenAIの漏洩事件を経て、その答えはおそらく「楽観的な受容」から「慎重な共存」へと修正されつつある。技術がどのように進化しようとも、人類は最終的な制御権と解釈権を保持し続けなければならない。もしいつの日か、いわゆる超級知能が本当に扉を叩くとすれば、私たちは少なくとも、その扉の鍵が取り替えられていないかどうかを確認しておく必要がある。

本稿はTechCrunchより編訳