AIの真偽を見分けられない？Googleの電子透かし技術がOpenAI、NVIDIAなどに採用される

生成AI（AIGC）が爆発的に普及する時代、私たちはあるジレンマに直面している。AIが強力になればなるほど、どれが人間の創作で、どれがアルゴリズムの産物なのかを見分けるのが難しくなっているのだ。しかし、Google DeepMind研究所が開発した「SynthID」という技術が、この混乱に明確な歯止めをかけようとしている。現在、この技術は業界の重量級プレイヤーから集団的な支持を得つつある。

SynthIDとは？AIコンテンツに埋め込まれる電子透かし

SynthIDの核心となるアイデアはそれほど複雑ではない。AI生成のテキスト、画像、音声、動画に、人間には知覚できないが機械が検出できる「デジタル透かし」を埋め込むのだ。従来の可視透かしと異なり、SynthIDの透かしは生成プロセスの潜在特徴空間に直接組み込まれるため、トリミング、圧縮、色調補正などの通常の編集を経ても、専用ツールで識別可能だ。Googleは2023年にこの技術を初めて公開し、当時は主に自社のImagen画像生成モデルに適用していた。

Googleが最近公表したデータによると、SynthIDの検出精度はテキスト分野で95%以上、画像分野で98%を超えており、誤検出率も極めて低い。さらに重要なのは、透かしの追加コストがほぼゼロで、生成速度やコンテンツ品質に影響しない点である。

OpenAI、NVIDIAが続々と「支持」する理由

OpenAIのCEO Sam Altman氏は公式ブログで次のように述べた。「AIコンテンツの追跡可能性を確保することは、公衆の信頼を築くための重要な一歩です。SynthIDはオープンで効率的な技術フレームワークを提供しており、私たちはこれに参加できることを光栄に思います」。同時に、NVIDIAはSynthIDを自社のNeMoフレームワークに統合し、同社のAIチップを使用するすべての開発者に透かし機能を開放する計画を発表した。さらに、AIスタートアップのMidjourney、Stability AI、ソーシャルメディアプラットフォームのMetaもテストの意向を示していると伝えられている。

「AIが誰のスタイルでも模倣でき、本物のように見えるニュースを発信できるようになった時、社会には情報エコシステムを守るための『デジタル身分証』が必要になります」——Google DeepMind研究担当副社長 オリオール・ヴィニャルス氏

業界大手による集団的な支持の背景には、規制圧力の継続的な高まりがある。EUの「AI法」は影響力の大きいAIシステムに対し生成コンテンツの表示を明確に求めており、米国ホワイトハウスが発出した大統領令も業界に対し透かし基準の策定を呼びかけている。SynthIDは、オープンソース、クロスプラットフォーム、高い堅牢性を武器に、事実上の業界規範になりつつある。

課題と限界：万能の鍵ではない

いかなる技術にも限界がある。SynthIDは現在、主にTransformerアーキテクチャに基づく生成モデル（GPT、Geminiなど）を対象としており、初期のモデルや非標準モデルへの直接適用は難しい。さらに、透かしを破る手段も進化しており、ある研究者は微小な摂動を加えることで検出を回避するブラックボックス攻撃を披露した。Googleは動的な透かしと検出ネットワークの定期的な更新によって対応していると述べている。

より根本的な問題は、透かしはコンテンツの出所を表示できるが、悪意のある使用者を阻止することはできないという点だ。ユーザーが生成コンテンツを手動で書き直したり、モデルを再訓練したりした場合（いわゆる「蒸留攻撃」）、透かしは効力を失う可能性がある。したがって、SynthIDは著作権法やプラットフォームの審査メカニズムと組み合わせて運用する必要がある。

業界への影響：「軍拡競争」から「インフラ」へ

編集部注：SynthIDの広範な採用は、AI業界が「狂気の生成」から「責任ある公開」という新たな段階に入ったことを示している。過去2年間、私たちはディープフェイク作成者と検出器の間で繰り広げられる猫とネズミのゲームを目撃してきたが、透かし技術は初めて主導権をプラットフォーム側に渡した。OpenAIやNVIDIAのような競合大手が同じ透かし基準を共有することに同意したのは、AIコンテンツの信頼性が次の成長のボトルネックであるという業界の合意が形成されたことを示している。

一般ユーザーにとっては、将来、画像を閲覧したりニュースを読んだりする際に、「このコンテンツはAIによって生成されました」というバッジがツールによって自動表示されるようになるかもしれない。すべての誤誘導を防ぐことはできないかもしれないが、少なくとも一つの信号灯を点灯させることになる。

本記事はArs Technicaから編集翻訳されたものである。