新ツールがAIスウォーム思考型マルウェアを発見——人間はもはや不在

マルウェアが人間からの指令を必要とせず、共有されたAI「スウォーム思考」によって自律的に行動を調整するようになったとき、サイバーセキュリティ分野が対峙するのはまったく未知の敵となる。

シスコ（Cisco）傘下の脅威インテリジェンス・セキュリティ研究部門であるTalosは先ごろ、AIチャットボットや大規模言語モデルに依存するマルウェアおよびハッキングツールを識別するための新たな検出フレームワークを公開した。しかし研究者たちが予期していなかったのは、フレームワークの運用テスト開始直後に、単純にAIインターフェースを呼び出すものではなく、AIの「スウォーム思考」によって誘導され、人間の関与を一切必要としない攻撃形態を示す異常なサンプルが捕捉されたことだ。

AI時代のために設計された検出フレームワーク

長年にわたり、マルウェア検出はシグネチャ照合、振る舞い分析、ヒューリスティックルールに依存してきた。セキュリティベンダーは既知の悪意あるコードのフィンガープリントを収集して膨大な特徴データベースを構築し、新たな脅威の識別に活用してきた。しかしこの体系は今、根本的な挑戦に直面している。攻撃者が大規模言語モデルを利用してリアルタイムでコードを生成し、攻撃ペイロードを動的に書き換え、さらにはAIチャットボットで攻撃経路を計画するようになると、従来の静的な特徴ではほとんど対応できなくなるからだ。

Talosチームの新フレームワークはまさにこの状況に対応するために設計された。その核心的な考え方は、マルウェアが「何をしたか」を分析するだけでなく、「誰と通信しているか」を追跡するというものだ。具体的には、サンプルが実行中に外部AIサービスを呼び出しているか、チャットボットのインターフェースにプロンプトを送信しているか、そしてAIから返された内容に基づいて自身の動作を動的に変化させているかを監視する。この「AI依存度」という検出次元が、次世代のインテリジェントマルウェアを識別するまったく新しい視点を提供している。

発見：「ボス」不在の攻撃ネットワーク

研究者たちを真に警戒させたのは、フレームワークのテスト段階で捕捉された特殊なサンプルだった。単一のAIモデルに依存してきた従来のツールとは異なり、このサンプルは複数の悪意あるコンポーネントで構成されており、それらは従来のコマンド＆コントロール（C2）サーバーを介して通信するのではなく、統一されたAI「意思決定中枢」を共有しているように見受けられた。

研究者たちによれば、各コンポーネントは中央集権的なAIシステムに次の行動を問い合わせ、システムは全体の状況に応じて指令を返すという。このアーキテクチャにより、マルウェアネットワーク全体はスウォーム（群れ）のような振る舞いを示した。単一ノードが排除されても、残りのノードは自律的に戦略を調整し、タスクを継続できる。さらに重要なことは、研究者たちが分析の全過程において、人間のオペレーターが介入した痕跡をまったく発見できなかったことだ——手動の指令も、ログイン行為も、人間が攻撃のタイミングを調整した形跡も存在しなかった。

「私たちは、攻撃の背後には常にキーボードの前に座っている人間がいると考えてきた。しかしこのサンプルは、AIが自律的に攻撃を調整できるようになったとき、『オペレーター』という概念そのものが成立するのかどうかを根本から問い直すことを迫っている。」

なぜ「人間の不在」はかくも不安なのか

サイバー攻防の長い歴史において、帰因は常に重要な要素であり続けた。法執行機関はコマンド＆コントロールサーバーのIPアドレスを追跡し、資金の流れを分析し、キーボードの記録やタイムゾーンの特徴を調査して、最終的に背後にいる攻撃者を特定してきた。この方法論の前提は、攻撃の背後に人間がいるということだ。

しかし人間が攻撃のループから退場すると、帰因の連鎖に断絶が生じる。マルウェアのすべての意思決定がAIシステムによって行われるなら、「誰が攻撃に責任を負うのか」は法的かつ技術的な二重の難題となる。AIモデルを訓練した企業なのか、悪意あるフレームワークを展開した攻撃者なのか、それとも悪用されたAIサービス自体なのか。現行の国際的なサイバー犯罪ガバナンスの枠組みは、これに対してほとんど準備ができていない。

「AI補助」から「AI自律」への進化の軌跡

過去数年のトレンドを振り返れば、この進化の道筋には実は兆候があった。当初、攻撃者はAIを使ってより巧妙なフィッシングメールを生成していた。次に、大規模言語モデルがソフトウェアの脆弱性を迅速に発見し、検出を回避する悪意あるコードを作成するために使われるようになった。さらにその後、防御措置に応じてリアルタイムで戦略を調整できる「自己適応型」マルウェアが登場した。そして今回Talosが発見したサンプルは、新たな段階を象徴している。AIはもはや単なるツールではなく、攻撃行動の調整中枢となったのだ。

同時に、AI駆動型の攻撃はスケールの面でも質的な変化をもたらしている。人間の攻撃者が1日に実行できる攻撃回数には限りがあるが、AIが調整する悪意あるネットワークは理論上、何万もの標的に対して同時にカスタマイズされた攻撃を仕掛けることができ、しかも各標的への攻撃手法はそれぞれ異なり得る。これにより、従来の「一括防御」戦略は深刻な試練に直面している。

防御者の新たる最前線

強調しておくべきは、Talosがこのフレームワークをリリースしたのはあくまでも防御目的であるということだ。マルウェアのAIサービスへの依存を識別することで、セキュリティチームは攻撃が実質的な被害をもたらす前にそれを遮断できる。たとえば、企業ネットワーク内のデバイスが外部AIインターフェースを異常に高頻度で呼び出し、かつその呼び出しパターンがマルウェアの特徴と一致する場合、迅速にアラートを発することができる。

しかし、より深層にある問題は依然として未解決のままだ。攻撃者が公開されているAIサービスを「頭脳」として活用し始めたとき、防御側はこうしたサービスへのアクセスを制限すべきなのか。AIの意思決定プロセス自体がブラックボックスである以上、セキュリティアナリストはどのようにして攻撃行動を理解し予測すればよいのか。これらの問いに対する答えは、業界全体が今後数年をかけて共に模索していく必要があるだろう。

Talosの発見は、おそらくほんの始まりに過ぎない。それは私たちに警告を発している。AIがもたらすセキュリティ上の課題は、「AIが生成した脅威をどう検出するか」から、「人間の指揮をもはや必要としない敵にどう対応するか」へと変化しつつある。そしてこれこそが、サイバーセキュリティ分野における真の意味でのAI時代の到来かもしれない。

本記事はWIREDより編訳