中国の無料AIモデルのハッキング能力がOpenAIに迫る、セキュリティ業界に警戒感

「AIが自律的にネットワークに侵入できるか」をめぐる実験が、セキュリティ業界を不安にさせる答えを示した。WIREDの報道によると、研究者たちは複数のAIモデルを模擬ネットワーク環境に投入し、脆弱性の発見、攻撃経路の立案、侵入の実行を試みさせた。その結果、中国産の無料モデルであるDeepSeekとGLMのハッキング能力が、OpenAIの最先端サイバーセキュリティモデルに肉薄していることが明らかになった。なお、後者は現在も一般公開されていない。

模擬演習：無料モデルの性能が予想を上回る

報道によれば、この実験の核心的な設計は、現在の主要な大規模言語モデルを模擬ネットワークの「演習場」に置き、人間のペネトレーションテスターのように偵察、弱点発見、攻撃ステップの連携を自律的に実行できるかを観察するものだった。過去の、断片的な悪意あるコードしか生成できなかったAIとは異なり、新世代のモデルはより高度なマルチステップ推論とツール呼び出し能力を示し、一連の侵入行為を実行可能な計画へと分解できるようになっている。

研究者たちを本当に驚かせたのは、AIが侵入できるという事実ではなく、「どのモデルが」十分な性能を発揮したかという点だった。DeepSeekとGLMはいずれも無料で入手できるモデルであり、前者は中国のAI企業DeepSeek社、後者はZhipu AIが開発した。実験での両モデルの性能は、OpenAIが内部でサイバーセキュリティ用途に使用している先進モデルとの差が限定的だった。OpenAIの対応モデルが公開されておらず厳格なアクセス制御が課されていることを考えると、この比較は一つの現実を浮き彫りにする。すなわち、最前線のサイバー攻撃能力が、オープンソースおよび無料のチャネルを通じて急速に拡散しているということだ。

オープンソースと無料提供：能力拡散のもう一つの側面

DeepSeekとGLMは、オープンウェイトまたは無料APIの形で一般に公開されている。クローズドソースモデルとは異なり、これらのモデルはローカルサーバーにダウンロードして実行でき、企業や個人はクラウドを介した審査なしに利用できる。このオープン性は技術の普及を促進する一方で、能力の監督・管理を極めて困難にしている。

過去一年で、AIのサイバーセキュリティ領域における「攻防両用」の特性はますます顕著になっている。一方では、モデルが企業の脆弱性自動スキャンや悪意あるコードの分析を支援できる。しかし同じ能力が、フィッシングメールの生成、エクスプロイトコードの作成、多段階ペネトレーションの計画立案にも転用できる。この能力が、無制限に呼び出せてプラットフォームの制約を受けない無料モデルに備わるとき、リスクは倍増する。

OpenAIとの比較がなぜ重要か

OpenAIは長年にわたり、強力なサイバー攻撃能力を持つモデルの扱いに慎重な姿勢を保っており、最先端のサイバーセキュリティモデルは内部または特定パートナーに限定されていて、外部から直接利用することは難しい。「能力が高いほど、公開は少なく」というこの戦略は、安全上のバッファーとみなされている。一方、中国のメーカーはオープンウェイトや無料APIによって迅速にユーザー規模を拡大する、別の道を選んだ。

両方の道筋にはそれぞれの論理がある。クローズドソースは制御性が高いが、能力が少数の企業に集中する。オープンソースはイノベーションと普及を促進するが、規制当局がモデルを誰がどのように使用しているかを追跡しにくくなる。無料モデルのハッキング能力がクローズドソースの最前線モデルに近づくとき、「アクセス障壁」に依存していたセキュリティの前提が崩れ始める。

セキュリティ研究者はよく言う。攻撃者は一度成功すれば十分だが、防御者は毎回成功し続けなければならない、と。AIはこの言葉をより厳しいものにしつつある。

編集後記：能力評価は拡散より先に進むべき

この実験の価値は「AIハッカー」への恐怖を煽ることにあるのではなく、業界への警鐘にある。モデル能力の評価と分類は、能力の拡散より先に行われなければならない。現在、ほとんどの国における大規模言語モデルのセキュリティテストは依然として任意であり、「サイバー攻防能力」に特化したレッドチーム評価にも統一された基準が存在しない。無料モデルが最先端に近い攻撃補助能力を容易に獲得できる状況では、メーカーの自主規制だけでは明らかに不十分だ。

一方で、防御側も同様のツールを必要としている。能力の流通を制限すると、中小企業や公的機関がAIを活用してシステムを強化する機会を失いかねない。より現実的な道筋は、段階的なモデル能力開示の仕組みを構築し、攻防両サイドが脅威インテリジェンスを共有することを推進し、明らかに一線を越えた使用シナリオに対して追跡可能な不正利用モニタリングを実施することだ。オープンソース自体は問題ではない。ガバナンスを欠いたオープンソースこそが問題なのだ。

本記事はWIREDより編集・翻訳