AI開発減速交渉の最中、セキュリティ脆弱性はすでに爆発的に増加

WIREDの報道によると、世界の主要AIラボは、最先端モデルの開発ペースを意図的に減速させることを目的とした業界協定について非公式な協議を進めている。この協議の背景には、超知能リスクから雇用への打撃、モデルの悪用の可能性に至るまで、AIの能力制御に対する業界全体の継続的な懸念がある。しかし、こうした協議が進む一方で、より差し迫った現実が浮かび上がっている。広く利用可能なAIチャットボットがすでにセキュリティ研究者による驚異的な数のソフトウェア脆弱性発見を支援しており、セキュリティ脆弱性の「爆発」はすでに起きているのだ。

脆弱性発見の民主化

かつてソフトウェアの脆弱性を発見することは、高度に専門化された作業であり、深いリバースエンジニアリング能力、特定のコードベースへの精通、そして高価なファジングツールを必要とした。今や大規模言語モデルがこの状況を一変させている。セキュリティ研究者たちは、AIチャットボットがコードの断片を素早く分析し、潜在的なセキュリティ上の欠陥を識別し、さらには概念実証の攻撃コードを生成できることを発見した。これにより、脆弱性発見の効率は数桁分向上した。

セキュリティ業界の観察によれば、AIコーディングアシスタントが普及して以来、オープンソースプロジェクトや商用ソフトウェアで報告される脆弱性の数が顕著に増加している。これはソフトウェアが突然安全でなくなったからではなく、脆弱性を発見するためのハードルが大幅に下がったためだ。基本的なセキュリティ知識を持つ研究者がAIツールを活用すれば、かつて数週間を要したコード監査作業を数時間で完了できる。

「私たちは今、脆弱性発見が職人芸の時代から工業化の時代へと移行する瞬間を目撃している。AIはすべての人に疲れ知らずのセキュリティ研究者を与えた。」――あるセキュリティ企業の研究員

「AI減速」交渉のパラドックス

AIラボが開発減速を議論する動機は理解できる。最先端モデルの能力が指数関数的に増大し続ければ、社会はそれに見合った安全上の防護策を構築する暇がないかもしれない。しかし問題は、この「減速」交渉自体に根本的なパラドックスが存在することだ――たとえトップクラスのラボが減速に合意しても、すでに展開されたAIシステムはセキュリティへの影響を生み出し続ける。

現在広く利用可能なAIチャットボットは、脆弱性発掘を支援するのに十分な能力をすでに備えている。これらのシステムは新たな業界協定によって回収されたり、機能を低下させられたりすることはない。換言すれば、AIによるセキュリティ脆弱性の爆発的増加は将来のリスクではなく、現在進行形の現実だ。「減速すべきか否か」を議論する前提は、「すでに何が起きているか」という事実に追いつけていない。

攻撃者も同等の優位性を得る

さらに懸念されるのは、防御側が得る能力向上を、攻撃側も同様に手にできるという点だ。AIがセキュリティチームによる脆弱性発見を支援できるなら、悪意ある行為者が攻撃可能なターゲットを発見することも同様に支援できる。セキュリティコミュニティでは、AI支援による攻撃の時代はすでに到来しているとの見方が広まっているが、公に開示された事例はまだ限られている。

攻防両者の能力がこのように同時に向上することで、「脆弱性の軍備競争」という新たな段階が生まれる可能性がある。防御側はより速いペースで脆弱性を修正する必要があり、攻撃側はより低いコストでそれを発見・悪用できるようになる。この競争の中で、ソフトウェアサプライチェーンの複雑さが問題をさらに深刻にしている。広く使われているオープンソースライブラリの脆弱性は、何千もの下流製品に同時に影響を及ぼす可能性がある。

業界への影響と政策上のジレンマ

企業にとって、これはセキュリティ予算と対応プロセスの抜本的な見直しを意味する。従来の四半期ごとのセキュリティ監査のペースでは、AI支援による脆弱性発見の速度に追いつけなくなっている。継続的な監視、自動化されたパッチ適用、より迅速なインシデント対応が不可欠となりつつある。

政策立案者にとっても、ジレンマは同様に明白だ。AI開発に過度に厳格な制限を課せば、イノベーションを規制の緩い法域へと追いやることになりかねない。一方、放置すれば、脆弱性爆発の悪影響がデジタルインフラへの公衆の信頼を損なう可能性がある。現時点では、満足のいくバランス点を見つけた国はどこにも存在しない。

注目すべきは、AIラボが協議している「減速協定」が主に最先端モデルの能力の境界線に焦点を当てており、すでに展開されたシステムのセキュリティへの影響には着目していないことだ。つまり、たとえ協定が成立したとしても、現在進行中の脆弱性爆発を直接抑制することはほとんど期待できない。真の課題は、有益な活用を妨げることなく、AI支援による脆弱性発見がもたらすセキュリティ上の外部性をいかに管理するかにある。

編集後記

AIの安全性に関する議論は、遠い将来の「存在論的リスク」に焦点を当てがちで、現在進行形の「現実のリスク」を見過ごしがちだ。脆弱性の爆発的増加は、AI能力の拡散がもたらした最初の体系的な副作用であり、ガバナンスの枠組みを「未来の災害を防ぐ」ものから「現在の影響を管理する」ものへと転換する必要があることを示している。AIラボがブレーキを踏むべきかを議論している間に、脆弱性発見という列車はすでに駅を出発した。セキュリティの実務者や企業の意思決定者にとって、今求められているのは業界協定を待つことではなく、脆弱性発見の速度が10倍になった世界に自社のセキュリティ戦略が対応できるかを改めて評価することだ。

本記事はWIREDより編訳