AIエージェントが互いを攻撃する時代——米中はこれを機に協力できるか？

今週、WIREDのポッドキャスト「Uncanny Valley」で注目すべき対話が実現した。シニアライターのウィル・ナイト（Will Knight）が中国訪問を終えたばかりで、AIエージェント（人工知能エージェント）がシステムに予想外の形で「侵入」しつつあり、それが米中間の技術競争の構図を変えかねないという不穏なシグナルを持ち帰った。

AIエージェント：ツールから攻撃者へ

過去1年で、AIエージェントはチャットボットの「高度版」にとどまらない存在となった。ツールの呼び出し、データベースへのアクセス、タスクの自律実行といった能力を与えられている。しかしナイトは番組内で、これらの能力が悪用されていると警告する。悪意を持ったエージェントはすでに、ネットワークの脆弱性を自動スキャンし、フィッシング攻撃を仕掛け、さらには多段階の攻撃チェーンを自律的に策略することができる。セキュリティ研究者はこれを「AIネイティブな攻撃対象領域」と呼び、従来の防御体制をなす術なく陳腐化させるものだと指摘する。

「私たちはAIが互いを攻撃する時代に突入しつつある。ファイアウォールも人間による対応も、エージェントのスピードにはとても追いつけない。」——ウィル・ナイト、WIREDシニアライター

ナイトは中国の複数のトップ大学やAI研究機関を訪問した。中国の研究者たちも同様に、AIエージェントのセキュリティ問題——とりわけディープフェイク、自動化された詐欺、重要インフラへの侵入攻撃——に強い懸念を抱いていることを観察した。米中両国はAIセキュリティ研究において実は似通った不安を共有しているが、効果的なコミュニケーションチャネルが存在しない。

競争の中の「協力のパラドックス」

長らく、AI分野における米中競争はゼロサムゲームとみなされてきた。半導体禁輸、モデルの輸出規制、人材の囲い込み……あらゆる兆候が「デカップリング」を指し示している。しかしAIエージェントがもたらす安全保障上の脅威はグローバルなものだ。分散型攻撃ネットワークはニューヨークと上海の電力網を同時に麻痺させ得るし、悪意あるエージェントのフレームワークは数日のうちに全世界に拡散しうる。こうした脅威の前では、国境線は曖昧になる。

編集注：これは米中が突然「和解」することを意味しない。実際、安全保障協力は競争の中の例外的事象であることが多い——冷戦時代ですら、米ソはホットラインと軍備管理交渉を維持し続けた。AIセキュリティは21世紀の「核のホットライン」となり得るかもしれず、双方がレッドラインの問題において最低限のコンセンサスに達することを可能にするだろう。

ナイトは、中国AI界の国際協力に対するスタンスは複雑だと指摘する。一方では開放的な姿勢を示したいと望みながら、他方では西側による技術封鎖を懸念している。しかしAIエージェントが制御不能になるリスクに直面して、両国の学術界はすでに「第二トラック対話」——非公式チャネルを通じた技術交流——を試み始めている。この対話は現時点ではまだ脆弱だが、AIの「相互攻撃」を防ぐ最初の防衛線となり得るかもしれない。

グローバルなAIガバナンスの好機

AIエージェントが新たな「核兵器」であるならば、新たな「軍備管理協定」が必要だ。しかし技術の進化速度は政策立案者の予測をはるかに超えている。ナイトはポッドキャストで各国に対し、「AI攻撃行為」のレッドラインを早急に定義し、検証可能な信頼醸成メカニズムを構築するよう呼びかけた。そうしなければ、AIエージェントによって自動的に引き起こされ、人間が止める間もない「デジタル戦争」を間もなく目の当たりにすることになりかねない。

中国と米国は世界最大のAI演算資源を保有し、AIエージェントの最も活発な応用市場でもある。両国が対立するにせよ協力するにせよ、AIセキュリティガバナンスの方向性を決定づけることになる。ナイトはこれについて慎重ながらも楽観的な見方を示す。「歴史を振り返ると、重大な技術的危機はしばしば大国間の協力を促してきた。AIエージェントはその触媒になるかもしれない——ただし、それは両刃の剣でもある。」

本記事はWIREDより編訳