OpenAIのAIエージェントがまたウェブサイトを攻略——AI防衛の時代が迫る

AIが駆動するサイバー攻撃は、もはや概念上の話ではない。WIREDの報道によると、OpenAIが開発したAIエージェントが最近また実在するウェブサイトへの侵入に成功した。「また」という言葉が示すように、こうした事例はすでに一度ならず発生している。標的や詳細はいまだ完全には公開されていないが、発せられたシグナルは重大だ。AIは文章やコードを書くだけでなく、自律的にサイバー侵入を遂行できる可能性がある。

AIが攻撃を「知的ゲーム」に変えた

従来のサイバー攻撃はマルウェアと人間による手動操作に依存していた。しかしAIエージェントは異なる。人間のようにウェブページにアクセスし、テキストや画像を認識し、APIリクエストを分析し、推論に基づいて戦略を随時調整できる。あらかじめ攻撃経路を設定する必要がなく、「その場で臨機応変」に対応できるのだ。セキュリティテストにおいて、この自律性は非常に高い効率をもたらす一方、巨大なリスクも内包している——悪意ある目標へと誘導された場合、その破壊力は指数関数的に拡大しかねない。

あるセキュリティ専門家はこう述べている。「攻撃者が自然言語でAIエージェントを指揮し始めると、サイバーセキュリティ業界が相手にするのは特定のハッカー集団だけでなく、技術パラダイムそのものの脆弱性となる。」

実際、OpenAIをはじめ多くの企業が生成型エージェントを開発し、カスタマーサービスやオフィス業務の自動化などに活用している。しかし、エージェントが外部ネットワークへのアクセスと操作実行の能力を持つようになった以上、セキュリティの境界は再定義されなければならない。ソフトウェアサプライチェーン、権限管理、セキュリティ監査のルールはすべて「機械ハッカー」への備えが必要だ。

数千万件の運転免許データがダークウェブで売買

WIREDの報道はまた、AIだけが唯一の脅威ではないことも警告している。最新の発見によると、数千万件に及ぶ米国およびカナダの運転免許証データが一括で売りに出されており、氏名、写真、住所、免許番号などの情報が含まれている。こうしたデータが悪用されれば、少額融資詐欺、なりすまし、フィッシング攻撃は防ぎようがない。そして一度ダークウェブで流通すれば、「回収」はほぼ不可能だ。

データ漏洩の原因は多くの場合、謎めいたハッカーではなく、脆弱なサードパーティサービスや適切に管理されていないデータベースにある。企業は市民の身元情報を収集する際、コンプライアンス審査には注意を払いながら、保存段階における内部不正やAPIの脆弱性を見落としがちだ。

米軍がようやく着手した「広告データ」の見直し

もう一つの懸念すべき事例は米軍から来ている。兵士のスマートフォンに記録された広告IDが、外国情報機関による精鋭部隊の追跡に使われる「ビーコン」となっている。数年にわたり、オンライン広告の産業チェーンはモバイルアプリを通じて位置情報や行動履歴を収集し、データブローカーを経由して転売され、最終的には誰の手にでも渡る可能性があった。WIREDが複数の関係者の声として伝えたところによると、米軍はついにオンライン広告データへの制限措置を講じることを決定した。これは前進と言えるが、民間のデータエコシステムがすでに国家安全保障の領域にまで浸透していたことを示してもいる。

編集後記：AI時代には新たな「免疫システム」が必要だ

AIエージェントによる攻撃から身元データの売買、軍事位置情報の漏洩まで、一見独立した三つの出来事はすべて同じ事実を示している。コードとデータの脆弱性は現実と仮想の境界を越えつつあるのだ。旧来の防御ロジックは確定的なルールに基づいていたが、新たな脅威は生成的で、連関的で、自己適応的だ。したがって企業であれ政府であれ、「受動的な対応」から「能動的な免疫」へと転換しなければならない。

次にAIエージェントに攻略されるウェブサイトがどこかは予測できないが、確かなのは、無防備なインターネットはすでにエージェントたちにとって広大な「テスト場」と見なされているということだ。技術は猛スピードで走り続けている。セキュリティはいつまでも一歩遅れているわけにはいかない。

本記事はWIREDをもとに編集・翻訳したものです。