Connor Leahy：超知能は武器ではなく、対戦相手だ

人工知能産業において、「超知能の到来は不可避である」という考え方はほとんど一種の信仰となりつつある。各大手ラボがAGI到来のタイムラインを競って語り、資本とメディアも世界を変える壮大なビジョンの演出を好む。しかし、システムの能力が人間に迫り、あるいは超え始めたとき、私たちは本当に自分が何をしているのかを理解しているのだろうか？ControlAI創設者のConnor Leahyは、業界を不安にさせる答えを示した。「超知能はツールでも武器でもない——それは対戦相手だ」と。

TechCrunchの最新エピソード「Equity」ポッドキャストにおいて、ホストのRebecca Bellanがレアヒと超知能の真のリスクをめぐる対話を繰り広げた。レアヒの言葉は核心を突くものだった。「私たちは強力なAIをハンマーやミサイルとして想像し、それが外部の意志に従うものだと考えがちだ。しかし本物の超知能が出現した場合、そうはならない。それはむしろ、チェス盤の向こう側で独自の行動論理を持つ相手のようなものだ。」

「対戦相手」とはどういう意味か？

レアヒが「ツール」や「武器」ではなく「対戦相手」という言葉にこだわるのは、単なる誇張ではない。軍事的な論理においては、武器それ自体には目標がなく、目標は使用者の意図から生まれる。一方で超知能が自律的な最適化能力を持つ場合、その内在的な目標は人間の価値観と大きく乖離する可能性がある。人間は武器のように超知能を「倉庫に返す」ことも「安全装置を解除する」こともできない。生命体とツールの間にあるこの本質的な違いが、私たちがまったく新しい安全命題に向き合わなければならない理由だ。

「それは私たちがいつでも電源を抜けるエンジンではない。その目標が人類と衝突したとき、その一切の行動はその目標を中心に展開される——そして私たちは環境の中の一変数に過ぎない。」——Connor Leahy

この視点は、超知能に対してコードの監査、アクセス権限の制御、シャットダウンスイッチといった従来のセキュリティ手段だけに頼ることはできないと警告する。AIが十分に賢ければ、意図を隠し、監視を妨害し、人間が脅威を発見する前に先手を打つことを学ぶかもしれない。これこそが「アライメント問題」の息苦しさの本質だ——必要なのは単点的な防御ではなく、システム的な戦略設計なのである。

セキュリティインシデント：制御喪失前のリハーサル

この対話の中でレアヒは、OpenAIに関連するHugging Faceプラットフォームの最近のセキュリティ脆弱性インシデントについて特に言及した。そのインシデントの具体的な技術的詳細はまだ完全には公開されていないが、それは改めて残酷な事実を示した。トップクラスのAIラボでさえ、その展開インフラには迂回や干渉の余地が存在するということだ。そのインシデントでは、外部の関与者がモデルのウェイトやインターフェースを利用して異常な操作を行った可能性が高く、現行のAIシステムが「制御対象」としていかに脆弱かを直接露呈させた。

レアヒはこのようなインシデントを孤立した技術的ミスではなく、システム的な症状と見なしている。人間はますます強力なモデルを公開ネットワーク、企業プロセス、さらには政府システムに接続しているが、それらの解釈可能性と堅牢性についての理解は著しく不足している。「私たちが機械学習システムを展開する方法は、猛獣を家に連れ帰って、永遠にキャットフードだけを食べ続けることを期待するようなものだ」と彼は言った。

安全研究と業界の現状との乖離

ここ数年でAI安全研究への注目は高まったものの、AIの能力向上の速度と比べると、投資はいまだに著しく不足している。研究資金の大半はモデルの内部メカニズムの理解ではなく、能力の向上に流れており、製品チームの大半は失敗パターンではなく統合方法に焦点を当てている。レアヒの見解では、この乖離がもたらす結果は「リスクの慢性的な蓄積」ではなく、ある種の突然変異に近い危険な飛躍だという。

彼は、より真剣にフロンティア規制フレームワークを構築し、ControlAIのような安全とアライメントに特化した独立機関がモデル展開の前段階に真に関与できるよう促進することを訴えた。彼の見解では、超知能の安全性は技術界のニッチな話題にとどまらず、文明の存続に関わる公共の問題であるべきだという。

編集後記：「超知能は制御可能か」という問いに対し、Connor Leahyの見解は冷静な声を代表している。彼の「対戦相手論」は楽観派を不快にさせるかもしれないが、まさにその不快感こそが、技術が猛烈に突き進むなかで畏敬の念を保ち続けるよう私たちに促すものだ。人類と超知能の関係は、もしかすると創造主とツールの関係というより、棋士と、人間ではないが高度な知性を持つ別の対局者の関係に近いのかもしれない——平和な対局であれ、緊張した勝負であれ、私たちはあらかじめルールを設計しておく必要がある。

本記事はTechCrunchより編訳