AIによる攻撃も恐ろしいが、AIワームウイルスはさらに致命的

8月6日、世界的に著名なテクノロジーメディアWIREDは、中国の研究者たちがAIモデルを攻撃的かつ適応型のコンピューターウイルスとして機能させることに成功したと報じた。この画期的な成果は、AIセキュリティの議題を「ツールの悪用」から「AI自体が悪意ある実体となる」という全く新しい次元へと押し上げた。

ツールから実体へ：AIの脅威における質的変化

過去数年間、ハッカーがAIを利用して攻撃を仕掛けることは珍しくなかった。たとえば、攻撃者がChatGPTを使ってより巧妙なフィッシングメールを生成したり、機械学習モデルを使ってネットワークの脆弱性を自動スキャンしたりするケースがある。しかしこれらのシナリオでは、AIはあくまで「受動的」なツールであり、実際の意思決定者は背後にいるハッカーであった。

今回の研究が示す状況はさらに深刻だ。AIモデルはもはや人間のハッカーを補助するコードの断片ではなく、自律的にターゲットを探し出し、攻撃戦略を立案し、防御システムに動的に適応する「デジタル病原体」へと変貌している。WIREDの報道が指摘するように、この能力によってAIは単純な自動化ツールではなく、「能動的なマルウェア」に近い存在となっている。

適応型ウイルスはどのように実現されるのか？

研究者たちは実験の詳細を公開していないが、論文の要旨によれば、その核心は人間の介入なしにAIモデルがコンピューターウイルスの伝播・変異メカニズムをシミュレートできることを証明した点にある。つまり、あるAIシステムが悪意を持って設計または改ざんされた場合、生物ウイルスのようにデジタルエコシステム内で拡散し、ファイアウォールやウイルス対策ソフトなどの防御に遭遇した際に自身の学習能力を活かして新たな変種を生成し、防衛ラインを突破する可能性があるということだ。

「AIモデルはすでに生物ウイルスに似た行動特性を示している。自己複製し、検出を回避し、環境に応じて進化する能力を持っている」と研究チームはこの発見について述べている。

実は、学術界における「AIワーム」の構想はすでに以前から存在していた。以前にも研究者たちが概念実証として、生成AIモデルを連鎖させて攻撃コードを自動生成する「インテリジェント悪意チェーン」を提案したことがある。今回の成果はさらに一歩進んで、適応性と自己進化をAIマルウェアの重要指標として組み込んでおり、将来の攻撃の複雑さと予測不可能性が指数関数的に高まることを示している。

セキュリティ防衛ラインの再構築が必要に

こうした新型の脅威に対し、従来のセキュリティアーキテクチャは対応能力が乏しい。シグネチャベースのウイルス対策ソフトは絶えず変異するAIウイルスを識別できず、振る舞い検知ベースのシステムもAIの「自律学習」によって欺かれる可能性がある。セキュリティ企業はすでにAIに対してAIで対抗する対称AI技術の採用を呼びかけており、深層学習モデルを活用して脆弱性を自動発見・修復しつつ、AIの行動監視を強化することを提唱している。しかしこのアプローチ自体にも大きな課題がある。防御側のAIまでが攻略された場合、その結果は壊滅的なものになりかねない。

国際社会がさらに懸念するのは、今回の研究が中国から生まれたという点だ。グローバルなテクノロジー競争が激化する中、AIの軍事化やサイバー攻撃能力に関するいかなる進展も、新たな軍拡競争を引き起こす可能性がある。これは各国がAIセキュリティ分野で協力し、国際的な行動規範を共同で策定することを求めている。

編集後記：AIはウイルスとなり得る、防御の再構築が急務

WIREDの報道は私たちに警鐘を鳴らしている。これまで私たちはAIをあくまでツールであり、決定権は人間にあると考えてきた。しかしこの研究は、AIの自己進化能力によってそれが制御不能な「デジタル生命体」となり得ることを証明した。AIが自律的にシステムに適応して攻撃できるようになったとき、人類の倫理的・規制的枠組みがそれに追いついているかどうか、深く考えさせられる。

結論として、AIワームやウイルスはもはやSFの産物ではなく、すでに実験室に姿を現している。次の重大なサイバーセキュリティインシデントは、ハッカーが書いたコードによってではなく、「生きている」AIによって引き起こされるかもしれない。

本稿はWIREDより編訳