Googleが中国AI詐欺集団を提訴：2週間で250万件の詐欺SMSを送信

テクノロジー大手Googleは先ごろ、米カリフォルニア州連邦裁判所に「Outsider Enterprise」と名乗る中国のサイバー犯罪組織を提訴した。同組織は人工知能技術を利用して大規模詐欺を行ったとされる。Googleによると、この組織はわずか2週間で250万件の詐欺SMSを送信し、「数十万人の被害者」に損害をもたらしたという。テクノロジー企業がAIを駆使したクロスボーダー詐欺組織に対して法的措置を講じるのは初めてのことであり、AIの悪用に対する業界の広範な懸念を呼び起こしている。

AI駆動の新型SMS詐欺

Googleが提出した訴状によると、Outsider Enterpriseはクラウドコンピューティングサービスのレンタルや大量のSIMカードスロット機器の購入、さらにAI自然言語生成技術を組み合わせることで、銀行・ECプラットフォーム・政府機関を装った詐欺SMSを自動生成・送信した。これらのSMSには通常、偽の「アカウント異常」「当選通知」「還付金リンク」などが含まれており、被害者をフィッシングサイトに誘導したり悪意あるアプリをダウンロードさせたりするものだった。従来の詐欺と比較して、AI生成のテキストはより欺瞞性が高く、実際のカスタマーサポートの口調や文法を模倣でき、さらには地域やタイムゾーンごとのユーザー習慣に応じたパーソナライズも可能だった。

GoogleのセキュリティチームはAI2025年末に異常なトラフィックパターンを初めて発見し、同組織のサーバーが米国・欧州・東南アジアに分散して存在することを突き止めた。Googleは、同組織からの不審なSMS1500万件以上をすでに能動的にブロックしたが、それでも250万件がユーザーの携帯電話への到達に成功したと述べている。Googleの訴訟では、裁判所に同組織のドメインとサーバーの閉鎖、および経済的損失の賠償を求めている。

「これはAI犯罪が大規模化時代に突入したことを示す象徴的な事例だ。詐欺師たちはもはや手動でスクリプトを書く必要がなく、AIを使って大量のバリエーションSMSを一括生成し、従来のキーワードフィルタリングシステムを回避している。」——サイバーセキュリティアナリスト・张伟（仮名）

編集者注：AI詐欺のグローバル化と規制上の課題

本件は不安を煽る傾向を浮き彫りにしている。生成AI（ChatGPTなど）の低コスト展開がサイバー犯罪の「産業化」を可能にしているのだ。かつて大規模なSMS詐欺には多くの人手と語学力が必要だったが、今や少人数の犯罪グループがAPIコールを購入するかオープンソースモデルをローカル展開するだけで、数時間以内に数百万件の詐欺トークスクリプトを生成できる。さらに厄介なことに、これらのAIモデルは異なる人々に対して「ソーシャルエンジニアリング」の最適化も行える——例えば高齢者には気遣いのある口調を使い、若者には緊急通知の口調を使うことで、クリック率を大幅に向上させている。

今回Googleは法的手段でOutsider Enterpriseを追い詰めたものの、同組織のサーバーとドメインの多くが海外に所在しており、実際の法的責任追及には多くの困難が伴う。中国の関係当局は近年、電信詐欺への取り締まりを強化しているが、AI詐欺のクロスボーダーな性質により、国際的な司法協力が成否を左右する鍵となっている。注目すべきは、「Outsider Enterprise」という名称が、規制を逃れようとする意図から「外資系企業」として登録している可能性を示唆している点だ。

業界への影響と防御に向けた提言

本件を受けて、複数のクラウドサービスプロバイダーと通信事業者がAIコンテンツ審査と異常トラフィック監視の仕組みを見直し始めている。Googleは訴状の中で特に、同社のAIセキュリティチームがSMSの言語パターン・送信時刻・URLの特徴を分析することでAI生成のフィッシングコンテンツを識別できる新たな検知モデルを開発したことを強調した。しかしこれはなお「猫とねずみのゲーム」であり、詐欺グループも検知を回避するためにモデルを絶えず最適化し続けている。

一般ユーザーに対してセキュリティの専門家は次のことを推奨している。見知らぬSMS内のリンクをクリックしないこと、たとえ公式番号から届いたように見えるSMSでも独立した手段で確認すること、携帯の詐欺・迷惑電話防止機能を有効にすること、セキュリティソフトをインストールして随時アップデートすること。企業においては、従業員のセキュリティ意識向上トレーニングの強化、多要素認証の導入、AI駆動のメール・SMSフィルタリングシステムの展開が求められる。

本記事はTechCrunchより編集・翻訳