AI生成の脆弱性報告が氾濫、企業のバグバウンティプログラムは限界に

バグバウンティプログラム（Bug Bounty Program）は、長らくサイバーセキュリティエコシステムの重要な一部であり続けてきた——企業はセキュリティ脆弱性を発見した研究者に報酬を支払うことで、ホワイトハッカーに製品の欠陥修正を支援するよう促してきた。しかし、このモデルは新たな課題に直面している：生成AIの急速な発展により、低品質・重複、さらには虚偽の脆弱性報告が潮のように押し寄せているのだ。

Ars Technicaが『フィナンシャル・タイムズ』の記者Jamie Johの報道を引用したところによれば、複数の大手テック企業のバグバウンティプログラム管理者が、ここ数カ月でAIによって生成された脆弱性報告が急増していることに気付いたという。これらの報告は通常、自然言語モデルを用いて大量生産されており、内容は一見専門的に見えるが、実際には再現可能な手順や有効な技術的詳細を欠いている。匿名希望のあるセキュリティチームリーダーによれば、彼らは毎日数百件もの類似報告を処理する必要があり、そのうち70%以上がAI生成の「ゴミ」だという。

AIが生み出す「情報ノイズ」

バグバウンティプラットフォームのHackerOneやBugcrowdなどもこの傾向を認めている。あるプラットフォームの広報担当者は次のように述べた：「一部の研究者がChatGPTやその他のAIツールを使って脆弱性の説明を生成しているが、実際にはテストを行っていないことに気付いている。これらの報告はもっともらしい用語で埋め尽くされているが、精査に耐えるものではない」。彼はさらに、こうした行為は審査チームの時間を浪費するだけでなく、本物の脆弱性が埋没してしまう可能性もあると付け加えた。

「散弾銃をぶっ放して的の中心を狙うようなものだ。しかしAIが生成した報告は、より多くのノイズを作り出しているだけだ。」——あるバグバウンティプログラム管理者

実際のところ、AI生成の脆弱性報告が完全に無効というわけではない。まれにAIが既知のCVE（共通脆弱性識別子）情報を基に、もっともらしい攻撃経路を組み立てることができるが、実環境ではバージョンや設定の違いにより、その脆弱性は存在しないことが多い。こうした「ほぼ正しい」報告はより欺瞞的であり、検証により多くの労力を要する。

ポリシーと倫理のグレーゾーン

バグバウンティプログラムのルールでは通常、研究者が自らテストを行い、有効な脆弱性を提出することを求めている。AI生成の報告は、ほとんどのプラットフォームの利用規約に違反するだけでなく、詐欺行為を構成する可能性もある——なぜなら、提出者は脆弱性が存在しないと知りながら、それで報酬を得ようとしているからだ。しかし、AIツールが生成したコンテンツは出所を追跡することが難しいため、プラットフォームは悪意ある悪用か、研究者のうっかりミスかを判別するのが困難な場合が多い。

一部の企業は審査プロセスの調整を始めている。MicrosoftのバグバウンティプログラムリーダーはAI生成のテキストパターンを識別するための自動検出ツールを導入したと述べた。これには、繰り返しの文型、誇張された表現、具体的な操作手順の欠如などの特徴が含まれる。同時に、有効な脆弱性に対する報奨金を引き上げ、低品質な報告に対してはアカウントの停止を含むより厳しい罰則を科している。

しかし問題は、道高ければ魔高し、ということである。AIモデルが進化し続けるにつれて、生成されるテキストはますます本物らしくなる。セキュリティ研究者のViktor M.はTwitterで次のように指摘した：「AIは人間として脆弱性を提出するふりをすることを学んでいる。おそらくまもなく、AI対AIの『猫とネズミ』のゲーム——AI報告を検出するAIと、より本物らしい報告を生成するAI——が見られるようになるだろう」。

編集者注：効率と誠実さのバランス

バグバウンティプログラムの本来の目的はセキュリティ研究を奨励することにあるが、AIの介入はこのシステムに新たな課題をもたらしている。一方では、AIは研究者がより多くの脆弱性を発見するのを支援し、効率を高めることができる。他方では、AIを悪用してゴミ情報を作り出す行為は、コミュニティの信頼を損なう。テック企業はAIツールを受け入れる一方で、より厳格な検証メカニズムと透明性のある評価システムを構築する必要がある。提出者にとっては、誠実さこそが最も重要な原則であり続ける。結局のところ、バグバウンティの本質は協働であり、投機ではない。

注目すべきは、この現象は孤立した事例ではないということだ。学術査読、コンテンツ制作、カスタマーサポートなどの分野でも、AI生成のゴミ情報が同様に氾濫している。人間の知恵と機械のノイズをどう区別するかは、今後数年間で各業界が共通して直面する課題となるだろう。

本記事はArs Technicaから翻訳・編集された。