元DeepMind幹部が警告：AIの軍拡競争が惨事を招く恐れ

「ナショナリストAI」が最悪のシナリオを形成しつつある

人工知能の分野で、静かながらも激しい軍拡競争が世界規模で繰り広げられている。元DeepMindの幹部Verity Hardingは最近、『WIRED』誌のインタビューに応じ、厳しい警告を発した。米国政府のAIに対するナショナリズム的な姿勢は、最悪のシナリオが徐々に現実化しつつあることを示している、というのだ。

HardingはDeepMindで公共政策責任者を務め、AIの倫理とガバナンスの議論に深く関与してきた。彼女は、現在のワシントンの政策立案者がAIを「何としても勝ち取らなければならない技術競争」として捉えており、世界規模での協力によって管理すべきリスク領域とは見ていないと指摘する。「この『勝者総取り』の心理は、AIを人類全体に恩恵をもたらし得る技術から、惨事を招きかねない兵器へと変えつつある」とHardingは語る。

「各国がAI開発をゼロサムゲームと見なすようになれば、安全に関する対話や協力メカニズムは脇に追いやられる。これこそが最も憂慮すべき点だ——私たちは核兵器の轍を踏もうとしているが、AIの技術的ハードルははるかに低く、拡散速度もはるかに速い。」

協力から対立へ：AIガバナンスの転換点

Hardingの警告は根拠のないものではない。過去2年間で、米国は中国に対して複数回にわたるAIチップの輸出規制を実施し、同盟国と連携して高性能な演算能力が中国に流れることを制限してきた。一方、中国はAIの基礎インフラの自主開発を加速させ、「科学技術の自立・自強」を強調している。技術デカップリングの波の中で、国際的なAIガバナンスの枠組み（グローバルAIパートナーシップや国連のAI高レベル諮問機関など）の推進は難航を極めている。

編集注：Hardingの主張は核心的なパラドックスを鋭く突いている——AIの安全な発展には世界最大規模の協力が必要だが、地政学的圧力が各国を対立へと向かわせている。これはちょうど、二人のボクサーにリングの上でルールを共同策定させるようなもので、双方が「相手はルールを守りながら自分を殴ってくる」と思っている状況に似ている。

安全性不在の「AIの暴走」

Hardingが特に懸念しているのは、軍拡競争に駆られる中でAIシステムの安全性と制御可能性が犠牲にされかねないという点だ。彼女は、企業が市場を先取りしたり政府の需要に応えたりするために急いでAIを展開し、厳格なテストや安全性の検証を省略する可能性があると指摘する。「大規模モデルがハルシネーション（幻覚）、バイアス、さらには自律的な欺瞞的行動を示すケースをすでに目にしている。こうしたシステムが重要インフラや軍事的意思決定に使われれば、小さなエラー一つが連鎖反応を引き起こしかねない。」

実際、最近の事例では、保護措置のないAIチャットボットが偽情報や悪意あるコードの生成に使われるケースも報告されている。Hardingは、国際的な安全基準と事故報告メカニズムの欠如が、AIリスクの早期発見と管理を困難にしていると主張する。

「囚人のジレンマ」を打破する可能性のある道筋

状況は厳しいものの、Hardingは悲観主義者ではない。彼女は惨事を回避する機会はまだあると考えており、その前提として米国と中国が何らかの形での科学技術対話を再開すること——冷戦時代に米ソが核兵器管理において行ったような努力——が必要だと述べる。彼女は「AIの安全に関する最低ライン」の確立を呼びかけており、その内容には自律型兵器システムの禁止、AI事故のグローバルデータベースの構築、そして基礎的な安全研究の共有が含まれる。

「AIの軍拡競争の勝者は本当の意味で『勝つ』ことはない——なぜなら、もし惨事が起きれば、全員が敗者となるからだ。」Hardingは最後にこう強調した。

本稿はWIREDより編訳