トランプ政権のAI安全協定：華々しい「約束ごっこ」

今週、世界で最も影響力を持つAI企業6社がホワイトハウスに集結し、トランプ政権とAIモデルの開発・展開における一連の安全措置の実施を約束する自発的安全協定に署名した。発表と同時に世論は沸き立った。しかし協定の内容を精読した多くの観察者は、似たような結論に達した——これは巧みに演出された「約束ごっこ」に過ぎず、見た目こそ厳粛だが、いかなる強制的拘束力も持たないというものだ。

協定の内容：何を約束したのか？

WIREDの報道によると、この協定は6社の主要AI企業が自発的に署名したもので、モデル公開前の安全テストの実施、政府との一部リスク情報の共有、内部安全審査メカニズムの構築などが含まれる。表面上、これらの約束はAI安全分野で現在最も注目されている議題——先端モデルの悪用リスク、バイオセキュリティの脅威、サイバーセキュリティの脆弱性、モデルの制御不能リスク——をカバーしている。

しかしながら、この協定のキーワードは「自発的」である。法的拘束力はなく、違約への罰則もなく、独立した第三者監督機関も存在しない。署名企業は「安全」とは何か、どのようにテストするか、そして実際のリスク情報を政府に開示するかどうかを自ら決定できる。言い換えれば、この協定は法的効力を持つ契約というよりも、覚書に近いものだ。

「自発的協定の問題は、企業が自発的に正しいことをするという前提に立っている点にある。しかし歴史は繰り返し証明してきた——利益と安全が衝突するとき、自律的な判断は商業的利益に屈する」――匿名を希望するAI政策研究者

歴史の反響：自発的約束という使い古された手法

AI企業が自発的な安全の約束を行うのは、今回が初めてではない。2023年にも複数のAI大手がバイデン政権と同様の自発的協定を締結し、先端モデルへのレッドチームテストの実施と安全情報の共有を約束した。しかしその後の調査では、これらの約束の履行状況はまちまちで、一部の企業は安全テストの具体的な結果を公開すら行わなかったことが判明した。

さらに遡れば、ソーシャルメディアプラットフォームも偽情報、ヘイトスピーチ、ユーザーのプライバシーに関して自主規制を何度も約束してきた。その結果はどうだったか？ケンブリッジ・アナリティカのスキャンダル、ミャンマーのロヒンギャ危機、そして拡大し続ける青少年のメンタルヘルス問題が、自発的約束の限界を如実に示している。

今回トランプ政権が推進した協定は、構造的に前政権のアプローチと瓜二つだ。異なるのは、現在のAI能力の発展速度が2023年をはるかに上回り、モデルはすでに複雑なコードの記述、生体分子の設計、多段階推論の実行が可能になっている点だ。リスクの窓は急速に狭まっているにもかかわらず、規制ツールは依然として「自発的参加を奨励する」段階に留まっている。

なぜ自発的協定が好まれるのか？

政治経済学の観点から見ると、自発的協定は各方面の利害調整の産物だ。AI企業にとっては、自発的な約束によって公衆の不安を和らげつつ、真の法令遵守コストを回避できる。政府にとっては、議会の立法上の膠着状態に触れることなく「行動力」を示すことができる。立法者にとっては、自発的協定が将来の立法の試験台にもなれば、規制を先延ばしにする口実にもなりうる。

しかし、この「全員が得をする」という外観の下には、根本的な矛盾が潜んでいる——AI安全問題の外部性は極めて強い。ある企業が安全のためにリリースペースを落とせば、競合他社がたちまち市場を奪いかねない。この囚人のジレンマの中で、個々の合理性が集団的非合理性を招き、自発的協定はインセンティブ構造をほとんど変えられない。

国際比較：EUの強硬路線

米国と鮮明な対照をなすのが、EUの「AI法」だ。同法はリスクに応じた段階的規制フレームワークを採用し、高リスクAIシステムにデータガバナンス、透明性、人間による監督、リスク管理などの厳格な遵守要件を課している。違反企業には高額の制裁金が科され、最高でグローバル年間売上高の7%に上る。

もちろん、EUのモデルも執行上の課題やイノベーション抑制への批判に直面している。しかし少なくとも法律レベルでは、執行可能な拘束メカニズムを提供している。一方、自発的約束と大統領令に依存する米国現在の路線は、綱渡りに近い——技術的優位を維持しながら規制リスクも回避しようとして、最終的には両方を失いかねない。

編集後記：約束の後、誰が監督するのか？

「指切りげんまん、嘘ついたら針千本飲ます」——これは子どもの遊びでの誓いであり、信頼と羞恥心によって成り立つ。しかし数百億ドルの商業的利益と潜在的な人類規模のリスクがかかるAIの世界では、信頼と羞恥心だけでは到底足りない。

真のAI安全に必要なのは、検証可能な技術基準、独立した監査メカニズム、明確な責任の帰属、そして強力な執行の裏付けだ。自発的協定は第一歩にはなりえるが、最後の一歩であってはならない。もし政府が署名式のフラッシュに満足し、その後の監督と説明責任を軽視するなら、この協定は結局また一枚の空手形に終わるだろう。

6社のCEOがホワイトハウスで握手し微笑む写真は、すでに世界中に広まっている。しかし真に問われるべきは——次のAI安全事故が発生したとき、この協定は何を保証できるのか？答えが「何も保証できない」であるなら、この「約束ごっこ」は精巧に演出されたPRショーに過ぎない。

本稿はWIREDより編訳