2026年10月14日、シンガポール国際サイバーウィーク（SICW）の開催期間中、Google DeepMindとシンガポール政府技術局（GovTech）は、Gemmaモデルをファインチューニングしたオンデバイス詐欺検出システムを共同開発したと発表した。このシステムは、ユーザーのスマートフォン上でリアルタイムの脅威識別を完結させ、会話内容を一切クラウドサーバーにアップロードしない。これはGoogleとシンガポール政府による「国家AIパートナーシッププログラム」の一環であり、同フレームワークは2026年5月20日に正式に発足した。
問題の根源：エンドツーエンド暗号化が生み出す検出の死角
従来のクラウドベースの脅威検出ソリューションは、メッセージをサーバーにアップロードしてスキャンする手法に依存していた。しかし、WhatsAppやSignalなど主要な通信プラットフォームではエンドツーエンド暗号化が広く採用されており、プラットフォーム事業者自身でさえ、転送中にメッセージ内容を読み取ることができない。セキュリティ検出とプライバシー保護は、アーキテクチャレベルで直接的な矛盾を抱えることになる。
Google DeepMindの公式ブログによると、シンガポールにおける詐欺被害のうち、ソーシャルエンジニアリング攻撃が占める割合はすでに80%に達している。2019年以降、詐欺によるシンガポールの被害総額は40億シンガポールドルを超え、詐欺事件は全国で報告された犯罪件数の半数以上を占めている。詐欺の手口は高度に個別化されており、汎用モデルではローカライズされた欺瞞的表現を識別することが難しい。
オンデバイス推論は、技術的にこの矛盾を断ち切る。分析処理はユーザーデバイスの内部で完結し、会話データはクラウドを経由することも、スマートフォンの外に出ることもない。暗号化通信のプライバシー保護という約束を維持したまま、セキュリティ検出を同時に実現できる。
二段階パイプライン：電力制約下でのアーキテクチャ選択
現代のスマートフォン上で大規模モデルを常時稼働させることは現実的ではない。Google DeepMindとGovTechが出したエンジニアリング上の答えは、二段階を直列につないだパイプラインだ。
第一段階では、軽量な分類器が極めて低い電力消費で新着メッセージを継続的に監視し、初期スクリーニングのみを行う。第二段階では、フラグが立てられたメッセージに限り、ファインチューニング済みのGemmaモデルがトリガーされ、より広範な会話コンテキストを踏まえた詳細な判断を行う。操作的な発話パターンが検出された場合、デバイスはただちにユーザーへ警告を発する。
このアーキテクチャは、限られた演算能力の下で推論モデルを展開するためのエンジニアリングテンプレートを示している。精度要件の低いタスクは軽量なルールベースモデルでカバーし、必要な場合にのみより大規模な言語モデルを呼び出す、という設計だ。
ソブリン・サンドボックス：三層ガバナンス・フレームワークの実質
両者は三つの制約条件を設定した。
第一に、「ソブリン・サンドボックス」：Gemmaのファインチューニング作業は、GovTechが管理・運用するGoogle Cloudの隔離環境内で行われ、トレーニングデータは外部システムと物理的に切り離されている。
第二に、「市民データの不使用」：トレーニングデータは詐欺報告およびインテリジェンス情報源から取得した匿名データセットに厳密に限定され、私的情報や個人識別可能な情報は全面的に排除されている。
第三に、「ストレステスト」：モデルは合成会話と、複数の詐欺カテゴリを網羅するローカルコーパスを用いて評価される。
GovTechのトラスト＆セーフティ責任者であるMark Chen氏は発表会で「詐欺との戦いは、個人のプライバシーを犠牲にして行われるべきではない」と述べた。
ローカライズされたファインチューニング：なぜ汎用モデルでは不十分か
このプロジェクトでは、汎用言語モデルをそのまま展開するのではなく、Gemmaに対して専門的なファインチューニングを施す選択がなされた。トレーニングデータは、シンガポールの公的機関・銀行・現地著名人を装った詐欺的会話、および当該地域に固有の地域的詐欺手口に重点を置いている。現地の銀行アプリを標的とした詐欺で使われる表現は、英米市場のそれとは明らかに異なる。
これにより、「政府がドメインデータを提供し、モデルベンダーが基盤能力を提供する」という役割分担モデルの実現可能性が実証された。データ提供側はローカル知識に対するコントロールを保持し、モデルベンダーは推論インフラを提供するという構図だ。
展開のロードマップ
発表時点では、このシステムの具体的な展開スケジュールは公表されておらず、連携するアプリケーションも発表されていない。シンガポール政府との協力のもとで開発されたアプリケーションを通じて段階的にリリースする予定であり、会話内容へのアクセスはユーザーが明示的に同意した場合にのみ行われるとしている。
シンガポールのメディアChannel NewsAsiaの報道によると、シンガポールのデジタル開発・情報相であるJosephine Teo氏はSICWでの講演において、詐欺の連鎖がソーシャルメディア・通信プラットフォーム・電話・金融機関にまたがっていることから、AIが詐欺対策をより困難にしていると指摘した。
産業へのシグナル：再現可能な政府AIのパラダイム
このプロジェクトの戦略的価値は、一つのテンプレートを提示した点にある。過去数年、各国政府は大規模モデルの能力を導入する際に共通のジレンマに直面してきた。クラウド処理によるデータ主権の譲渡を受け入れるか、現実的でないコストを負担して自前のインフラを構築するか、という二択だ。GovTechとGoogle DeepMindによる今回の連携は第三の道を示した。政府が隔離環境内でデータとファインチューニングのプロセスを管理し、モデルベンダーが基盤アーキテクチャと事前学習済み能力を提供し、最終的な成果物はサーバーではなくユーザー側に展開される、というモデルだ。
Google DeepMindは、他国への同様の展開モデルの普及を検討していると表明している。
独立した評価
このプロジェクトの技術設計は内的整合性を持っている。オンデバイス推論が暗号化の制約を回避し、二段階パイプラインが電力制約の問題を解決し、ソブリン・サンドボックスがデータガバナンスへの答えを示している。
ソーシャルエンジニアリング詐欺の本質的な難しさは、既知のテンプレートを識別することではなく、絶えず進化する手口への対応にある。過去の詐欺報告でファインチューニングされたモデルが、今後6か月で登場する新たな詐欺手口に対してどこまで汎化できるかは、事前には評価できない。真の検証の節目は、このシステムが実際のアプリケーション上で十分な期間稼働した後に得られる、誤検知率と見逃し率の実測データだ。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接