アマゾン、中国背景のAIエージェントが11分で東アジアの医療画像サーバーのゼロデイ脆弱性を自律的に突破したと公表

アマゾンの脅威インテリジェンスチームは11月20日、中国背景のハッカーが9月にAIペネトレーションフレームワーク「Cairn」を通じてエージェントを操作し、東アジアの複数大学の医療画像サーバーに攻撃を仕掛けたと公表した。エージェントはオープンソースプロジェクト「MONAI Label」においてパストラバーサルのゼロデイ脆弱性を発見し、11分以内にAPIマッピングからroot制御権の奪取までを完遂した。

事実の再現

アマゾンCISO CJ Mosesが説明した調査は9月10日に始まった。公開アクセス可能なサーバーがCairnインスタンスをホストしており、その操作履歴とプロンプトを参照できる状態にあったことが判明したことがきっかけだった。プロンプトは簡体字中国語で記述され、タイムスタンプは中国標準時に設定されていた。標的は東アジアの大学であり、CairnにはIPアドレスに対して「シェルアクセス権を取得せよ」という指示が与えられていた。試みの一つは16時間かけて148のアクションを実行したが失敗に終わり、Log4Shellの試みも不成功だった。別の試みでは6時間以上かけて3万組以上の認証情報をテストしたが、これも失敗した。唯一の成功事例は、エージェントが医療画像AIアプリケーション内でゼロデイのパストラバーサル脆弱性を発見・悪用し、続いて第二の大学への侵入に使用したケースだった。アマゾンの脅威インテリジェンスは、当該脆弱性が公開データベースに登録されていないことを確認し、ゼロデイと評価した。メンテナーは11月18日にパッチをリリースし、AWSは政府パートナーとともに関係組織に通知した。

メカニズムの解析

Cairnは操作者が自然言語で起点と目標を指定するだけで、複数のAIエージェントが連携して計画・実行し、フィードバックに基づいて経路を調整する。人間が各ステップを逐一指定する必要はない。攻撃者がIPと「シェルアクセス権を取得せよ」という指示を入力するだけで、エージェントがマッピング、脆弱性探索、悪用を自律的に完了した。同フレームワークは以前、Gambit Securityによってオンライン小売業者への侵入に使用されたことが記録されており、Googleの研究者も米国航空宇宙分野の企業への侵入において類似した使用例を観察していた。CairnやArtexなどのツールはいずれもオープンソースの自律型マルチエージェント攻撃フレームワークに属するが、Cairnにはサイバーセキュリティに関する内部的な構造的制限が欠如している点が異なる。

産業への影響

今回の事件は、AIエージェントが実際の攻撃において「脆弱性発見→悪用」の全チェーンを自律的に完遂できること、かつその速度が多くのセキュリティオペレーションセンターにおけるアラートの人手トリアージに要する時間を上回ることを示した。オープンソースの医療画像フレームワークであるMONAI Labelは、パッチのリリースが攻撃発生から遅れており、AIを活用した攻撃の下でオープンソースコンポーネントが晒されるエクスポージャーウィンドウの問題を浮き彫りにした。複数のクラウドベンダーと研究機関がArtexやCairnなどのフレームワークに対する警告を相次いで発表しており、攻防双方において自律型AIツールへの関心が同時に高まっていることが窺える。

戦略的見解

(以下は分析であり、事実ではない)現在のセキュリティ評価フレームワークは防御的なシナリオに重点を置いており、「攻撃的な自律脆弱性発見」能力のカバレッジが不十分であるため、Cairnに類似した汎用エージェントの行動パターンを取り込む形でテストの次元を拡張する必要が生じる可能性がある。オープンソースツールはサイバーセキュリティに関する組み込み構造を持たないため、使用シナリオの予測がより困難であり、今後はフレームワークの設計段階で使用境界の制限を組み込み、悪用リスクを低減することが求められるかもしれない。