AIスローダウン命令はいかに実行されるか：こっそり加速する者を誰が止められるか？

編集注：本稿はWIREDのコラムニスト、Will Knightの分析をもとに編訳したものである。「AI開発の一時停止」が学術界における倫理的な訴えから、大国と企業の間のリアルな交渉議題へと変わりつつあるなか、さらに厄介な問いが浮かび上がってきた――たとえ全員が合意したとしても、誰が、暗闇の中でこっそりアクセルを踏み続ける者を止められるのか？

一、論争の重心はすでに移っている

2023年春、フューチャー・オブ・ライフ・インスティテュートが公開書簡を発表し、「最先端AIの開発を6カ月停止せよ」という主張が世界の注目を集めた。署名者にはチューリング賞受賞者やテクノロジー界の著名人も名を連ねた。当時の論争の核心は「停止すべきか否か」だった。それから数年が経ち、論争の重心はより困難な問いへと静かに移行している――「もし停止するなら、いったいどうやって停止するのか？」

理由は明白だ。あの公開書簡の後も、主要な研究機関のいずれも本当に歩みを止めることはなかった。むしろモデルの規模、学習用の計算量、データセンターへの投資はいずれも加速の一途をたどっている。こうして「一時停止」は、スローガンとして叫べる主張から、工学的・制度的な細部に答えなければならない問題へと変貌した――誰が検証するのか、何を検証するのか、違反が発覚した場合はどう対処するのか、といった問いだ。

二、見えない学習：執行上の第一の壁

歴史上、成功を収めた軍備管理が機能した理由は「観測可能性」にある。核実験は地震計に波形を残し、ミサイルの発射は衛星の赤外線センサーから逃れられず、化学兵器の製造施設は追跡可能な前駆化学品の物流を伴う。ところが大規模モデルの学習は、外部の世界にほとんど痕跡を残さない――数万枚のGPUが閉鎖されたデータセンターで数カ月間稼働し、最終的に出力されるのはただのモデルの重みファイルだ。煙も出ず、振動もなく、光も発しない。

つまり、いかなる「AIスローダウン」の仕組みも、間接的なシグナルに基づかざるを得ない――計算資源の調達記録、チップの流通経路、データセンターの電力消費、計算規模の自己申告。これらはいずれも、回避・曖昧化・偽装が可能だ。だからこそ、実際に執行できる方策は「学習そのもの」を直接対象とせず、その上流、すなわちチップと計算資源に目を向けることが多い。

三、真のレバレッジはサプライチェーンにあり、条約にはない

核不拡散とは異なり、先進的AIのサプライチェーンは極めて集中している――最高峰のGPUはごく少数のメーカーが供給し、最先端プロセスはTSMCに依存し、露光装置はほぼ一社のオランダ企業が独占している。この集中は、リスクであると同時にレバレッジでもある。理論上は、チップの製造段階に位置情報の追跡を組み込み、クラウド計算資源の利用者に厳格な本人確認を課し、超大規模データセンターに対して国際的な相互査察を導入すれば、「こっそり加速する」ことへの実質的な障壁を設けることができる。

実際、輸出規制はすでに事実上の「スローダウン命令」として機能している――それは協定によってではなく、ハードウェアの供給を断ち切ることで相手の進捗を遅らせる方法だ。これは粗削りで一方的かつ強い地政学的色彩を帯びたアプローチだが、確かに執行可能だ。一方、紙の上に書かれた一時停止協定はそうではない。

核実験は地震計で捉えられ、ミサイルの発射は衛星に捕捉される。しかしモデルの学習は外部世界にほとんど痕跡を残さない――これこそが、AI軍備管理と核軍備管理の最も根本的な違いだ。

四、制度設計：AI版「国際原子力機関」は可能か？

ここ数年、複数の国がAI安全研究機関の設立を進めており、学術界でも国際原子力機関（IAEA）に似た査察体制の構築が議論されている――計算規模の申告、現地査察の受け入れ、重要な段階での監査などだ。問題は、核物質が物理的・計量可能・隠蔽困難であるのに対し、モデルの重みは単なるデジタルデータであり、数秒でコピー・転送・暗号化が可能で、任意のサーバーに隠蔽できるという点だ。「計算量がどれだけあるか」を検証することはまだしも、「何を学習したか、どこまで学習が進んだか」を検証することはほぼ不可能に近い。

より現実的な道筋は、査察を「精緻に」ではなく「大まかに」行うことだ――モデルの内部を問わず、ただある計算量の閾値を超えた学習クラスターが届け出を行っているか、その電力とチップの供給が追跡可能かという点のみを監視する。これは妥協ではあるが、現時点で実現可能な唯一の形である。

五、審判のいない競争

技術と制度が整ったとしても、最後の壁は政治だ。あらゆるスローダウンの仕組みは、軍備管理が古くから抱えるジレンマに直面する――自分が減速しても相手が減速しなければ、自分が負ける。相手が減速すると確信していても、自分がこっそりもう一歩先へ進む動機はある。先行者は優位を手放したくなく、追う者は永遠に後方に封じ込められたくない。協定が厳格になるほど、離脱の誘惑は大きくなる。

さらに微妙なのは、ある「一時停止」の成功が単に先行者の顔ぶれを入れ替えるだけに終わる可能性だ――停止期間中に基礎研究、アルゴリズムの効率化、データの蓄積を続けた者こそが、解禁後に最も速く飛び出せるのだから。

結語：実行可能性こそが鍵だ

AIのスローダウンを倫理問題として議論すると、立場表明の応酬に陥りやすい。執行上の問題として議論して初めて、真の進展が見えてくる。その結論は必ずしも安心できるものではない――最も実行可能な手段はグローバルな条約ではなく、チップ・計算資源・クラウドインフラのサプライチェーン管理だ。それは有効ではあるが、使える国は少数に限られ、分断をさらに深める。

言い換えれば、AIが本当に減速できるかどうかは、最終的には「どれだけ多くの人が減速を望むか」にはかかっていない。「誰かが本当にブレーキを踏める立場にあるか」、そして「ブレーキを踏まれた者がそのペダルの存在を認めるか」にかかっている。

本稿はWIREDより編訳。