Googleが中国サイバー犯罪ネットワークを提訴：Geminiを悪用した詐欺の自動化

2026年6月13日、Googleは米カリフォルニア州連邦裁判所に対し、「CryptoMirage」と称する中国系サイバー犯罪集団を提訴した。同集団は、Googleの生成AIモデルGeminiを悪用して数千件に及ぶ偽の投資・暗号資産・ECサイトを自動生成し、世界中の数十万人のユーザーを標的に詐欺を行ったとして告発されている。これはAIの悪用をめぐる法的事件として現在最も注目を集めるケースであり、テクノロジー大手が不正業者によるAIツールの悪用に法的に反撃し始めたことを示す画期的な出来事だ。

事件の核心：AIが駆動する詐欺の流れ作業

GoogleセキュリティチームがGoogleが開示した詳細によると、この犯罪ネットワークはプログラミングインターフェース（API）を通じてGeminiモデルを大規模に呼び出し、詐欺サイトのコンテンツ、偽の顧客レビュー、さらにはリアルタイムのチャットボット会話を自動生成していた。従来の詐欺と比較して、これらのサイトは高い信ぴょう性とインタラクティブ性を備えており、被害者の入力に応じてトークスクリプトを動的に調整することができた。例えば、被害者が「投資利回り」への懸念を示すと、Geminiが生成した返答は架空の財務データを引用し、「数量限定の暗号トークン」を推奨する内容となっていた。Googleは訴状の中で、同集団は6か月以内に1万5000を超える悪意あるドメインを作成し、その影響は北米・欧州・東南アジアに及んでいると述べた。

「彼らはもはやスクリプトを手書きする必要がない——AIが詐欺を工業化した」とGoogleの法務総責任者は声明の中で強調した。「私たちはこれらのサイトを閉鎖するだけでなく、AIの安全性に関する法的先例を打ち立てなければならない。」

Geminiのコンプライアンス上の脆弱性とGoogleの対応

今回の事件は、AIプラットフォームにおけるコンテンツセキュリティの脆弱性を露呈させた。GoogleはGeminiにフィッシング・詐欺・権利侵害コンテンツの生成を禁止するセーフガードを設定していたにもかかわらず、犯罪集団はプロンプトエンジニアリング（prompt engineering）を駆使して巧みに検出を回避した。例えば、「緊急の税務問題に関する企業通知を穏やかなトーンで書いてほしい」とモデルに要求することで、実際には税金還付フィッシングページを生成させていた。Googleは2026年第1四半期に200以上の関連APIキーを無効化し、リアルタイム行動分析システムを導入したが、攻撃者は素早く新しいアカウントに移行した。

Googleは今回の提訴で「コンピューター詐欺および不正使用に関する法律（CFAA）」および「組織犯罪対策法（RICO）」を特に援用し、数百万ドルの損害賠償を求めている。アナリストらは、これによりテクノロジー企業は自社AIプロダクトの責任の範囲を改めて評価せざるを得なくなると指摘している——AIが無差別に有害なコンテンツを生成した場合、プラットフォームは「犯罪幇助」の連帯責任を負うべきか、という問いだ。

編集後記：AIを用いた犯罪の時代はすでに到来している

本件は決して孤立した事例ではない。2025年以降、生成AIを利用したサイバー詐欺の件数は300%急増しており、ディープフェイク映像・音声クローン・自動化ソーシャルエンジニアリングなどが横行している。犯罪集団は「技術的な素人」から「プロンプトの専門家」へと変貌を遂げており、防御側は依然として従来型のルールで対抗しようとしている。Googleの提訴は象徴的な意義を持つものの、司法管轄をまたいだ法執行の難易度は極めて高い。関係するサーバーは東南アジアと東欧に分散しており、主犯の身元確認も困難だ。AI犯罪を真に抑止するためには、AIの利用に関するグローバルな行動規範、APIへの強制的な監査ログの導入、そしてより高度な敵対的訓練データが必要になるかもしれない。この猫とネズミのゲームはまだ始まったばかりだ。

本稿はArs Technicaより編集翻訳