AIによるスパムレポートが氾濫、Googleがオープンソース脆弱性報奨金プログラムを凍結

また一つの大手テクノロジー企業が、AI生成による「スパム提出」に白旗を掲げた。TechCrunchの報道によると、Googleはオープンソースソフトウェア脆弱性報奨金プログラム（Open Source Software Vulnerability Reward Program）を凍結した。直接の原因は、AI生成による低品質な脆弱性レポートが「著しく増加」し、人的審査リソースが大量に消耗される一方で、真に価値のある脆弱性の手がかりが埋没してしまっていることだ。

善意を奨励するプログラムが、なぜ一時停止に至ったのか

Googleのオープンソース脆弱性報奨金プログラムは、単なる「バグを見つけて報酬をもらう」活動ではない。その本来の目的は、無数の企業が依存しながらも資金支援が乏しいオープンソースコンポーネント——暗号ライブラリから圧縮アルゴリズム、OSカーネルモジュールから広く使われる開発ツールチェーンまで——をセキュリティ研究者が自発的に精査することを奨励するものだ。研究者が有効なセキュリティ脆弱性を提出すれば、Googleは深刻度に応じて報奨金を支払い、その修正は最終的にインターネット全体のインフラに恩恵をもたらす。

この仕組みは過去十数年にわたって機能してきた。その前提は、脆弱性レポートを一件提出するには真の知的コストが必要であるということだ。研究者はコードを理解し、問題を再現し、危険性を証明した上で、「レポートが誤りだった場合」の評判リスクも背負わなければならない。そのため、提出件数は自然と限られ、品質も比較的安定していた。

しかし、生成AIがこの等式を変えてしまった。誰もがモデルに数分でコードリポジトリを読み込ませ、それらしく見える脆弱性分析を数十件自動生成させられるようになった今、提出の限界コストはほぼゼロにまで下がった。問題はコストが消えたのではなく、審査する側——一件一件を読み込み、再現し、真偽を判断しなければならないオープンソースメンテナーやセキュリティエンジニア——に転嫁されただけだという点だ。

「AIスパム」はいかにして脆弱性報奨金を飲み込むのか

AIが大量生産するこの種のレポートには、いくつかの共通した特徴がある。文章は流暢で専門用語も適切に使われており、実在する関数名やファイル名が引用され、もっともらしい攻撃経路まで示されている。しかし深く検証すると、描かれた「脆弱性」は成立しないか、公開ドキュメントにすでに記載されている制限事項を言い換えただけか、あるいはモデルがコードを誤読したものであることが判明する。

この流れに慣れた者であれば、AI生成のレポートを見分けるのに数秒もかからない場合もある。しかし、すべての提出を厳密に扱わなければならないプラットフォームにとっては、「問題がある可能性がある」というだけで、完全な検証プロセスを強制的に開始するには十分だ。こうしたレポートが何百、何千件と一斉に押し寄せれば、審査のキューはたちまち機能不全に陥る。

AIスパムが脆弱性報奨金プログラムを押しつぶしつつあるようだ。——TechCrunch

注目すべきは、Googleが最初の被害者ではないという点だ。著名なオープンソースプロジェクトcurlの作者Daniel Stenbergは、AI生成の「セキュリティレポート」への定型的な返信に多大な時間を費やされていると繰り返し公に訴えてきた。OpenBSDやLinuxカーネルなどのプロジェクトのメンテナーも同様の悩みを表明している。彼らが受け取るのは攻撃ではなく、ノイズなのだ。セキュリティプラットフォームのHackerOneも以前、AIを活用して生成された低品質な提出が各社共通の新たな常態になりつつあると明らかにしていた。

凍結は、撤退ではなく損失の抑止だ

Googleが使ったのは「凍結（froze）」という表現であり、「終了（shut down）」ではない。これはプログラムが仕組みとしては再開可能な状態を保っており、現時点での投入対効果が崩れてしまっているに過ぎないことを意味する。無効なレポート一件を審査するための人的コストが、万に一つの確率での有効報告を上回るならば、オープンな提出口を維持し続けることは、セキュリティチームが本来真の脅威に向けるべきリソースを圧迫し続けることを意味する。

言い換えれば、Googleが一時停止したのは「オープンソースのセキュリティに報酬を支払う」という行為ではなく、「誰もがコストゼロで憶測を投げ込める」という入口だ。この二つの間には、本質的な違いがある。

編集後記：生成がコストゼロになったとき、検証こそが最も希少な資源となる

今回の出来事が示す意味は、一つのプログラムの停止をはるかに超えている。それは形成されつつある構造的な矛盾を浮き彫りにしている。AIは「コンテンツを生産する」コストを極限まで下げる一方で、「そのコンテンツが信頼できるかを判断する」コストを前例のないほど高くしてしまった。脆弱性報奨金プログラムはもともと精巧な信頼の市場だった。研究者は評判と労力を担保に報奨と承認を得て、プラットフォームは報奨金と引き換えに真の防御能力を獲得する。AIの登場はこの市場の情報バランスを崩し、「粗悪品」が初めて「良品」を駆逐できる規模的優位を持つに至った。

予想される対応策としては、大きく三つの方向性がある。第一に、提出の敷居を引き上げること——たとえば再現可能なPoC（概念実証コード）の提供を義務付ける、参加者の資格を制限する、あるいはデポジットと評判スコア制度を導入するなど。第二に、AIでAIに対抗すること——モデルによる一次スクリーニングを経た上で、人間がリスクの高い案件を複合的に審査し、審査者の注意力を最も有効な可能性の高いレポートに集中させる。第三に、インセンティブ構造を変えること——「報告ごとに支払う」形式から「確認・修正された問題ごとに支払う」形式へと移行する。

しかし、どの方策にもコストが伴う。敷居を上げれば、業界に入ったばかりの独立した研究者を弾いてしまう恐れがある。オープンソースのセキュリティはまさに、こうした「アマチュアだが鋭い目を持つ」人々に長く依存してきた。AIによる一次スクリーニングへの依存は、判断の一部を同種のツールに委ねることを意味し、モデルが見落とした場合の影響は人的ミスよりも発見が困難になりかねない。だからこそ、Googleの凍結は公開された救助信号のようなものとも言える——AI時代において信頼できる協力の仕組みを再構築することは、もはや一企業が単独で解決できる問題ではない。

オープンソースエコシステムにとって、避けることのできない現実がある。かつて「人手が多ければ力になる」というクラウドソーシングの論理が、AI時代の膨大なノイズによって希薄化されつつあるのだ。メンテナーたちが必要としているのは、より多くの目だけではなく、より信頼性の高いフィルターと、より明確な参加規約だ。新たなバランスが見つかるまでの間、私たちはより多くのプロジェクトが選択的に門を閉ざす光景を目にすることになるかもしれない——助けを必要としていないからではなく、偽装した助けを受け入れる余裕がないからだ。

本記事はTechCrunchを元に編集・翻訳したものです。