プログラマーが数時間でClaudeの透かしを解読、EUのAI規制が現実の洗礼を受ける

編集者注：Anthropicによる規制準拠の表明が、数時間以内に技術コミュニティによって覆された。これは、世界初の国家レベルのAI規制フレームワークとリアルなハッカー文化との正面衝突であるとともに、AIコンテンツの追跡技術がいまだ成熟していないことを改めて示す出来事でもある。

先週、AnthropicはClaudeモデルが生成するテキストに透明な電子透かしを埋め込むと発表した。これはEUが施行予定の新規制への対応措置だ。「目には見えないが検出可能」なこの透かし技術は、AI生成コンテンツを追跡するための重要な防衛線となるはずだった。しかし発表から数時間以内に、プログラマーたちがこの透かしを回避する「override」方法をオンラインで披露し始めた。この急速な展開はAnthropicの想定を超えるものであり、AI規制が技術面で直面する現実的な困難を改めて明らかにした。

「透明な電子透かし」とは何か？

従来の透かしとは異なり、透明な電子透かしはテキストの内容を視覚的に損なうことがない。Anthropicの説明によれば、その仕組みはモデルがテキストを生成する際に、擬似乱数・統計的パターンを通じて人間には感知しにくいシグナルを埋め込むというものだ。これらのシグナルは文章の意味を変えないが、外部の検出ツールがテキストのトークン確率や特定のパターンを分析することで、そのテキストがClaudeによって生成されたかどうかを判定できる。

Anthropicはこの透かしがユーザーに対して透明であることを強調し、偽情報・ディープフェイクテキスト・学術不正といった極端なケースにおいてAI生成コンテンツの検出を補助できるとしている。EUの関連法規は生成AIモデルに対し、AI生成コンテンツを識別するための適切な追跡・透明性メカニズムの導入を求めており、Anthropicはこれを規制準拠の取り組みと位置付けている。

プログラマーたちの反撃

しかしAnthropicの発表から数時間以内に、複数の技術コミュニティで迂回方法の解説が登場した。あるプログラマーのデモでは、モデルが生成したテキストにわずかな修正を加えるだけで——例えば一部の句読点を削除・置換したり、同義語に置き換えたり、文の順序を入れ替えたりするだけで——検出ツールが識別不能になることが示された。さらに踏み込んだ手法としては、別の言語モデルを使ってテキストを「書き直す」方法や、API呼び出し時に特定のパラメータを無効化する方法も挙げられている。

「透かしはモデルの元の出力にしか存在しない。人間が普通の編集を一度でも加えれば、それはもう検証可能なものではなくなる。要するに透かしは堅固な鍵というより、おとなしいリマインダーに過ぎない。」

これらの迂回方法が透かしを完全に除去できるかどうかは、透かしの強度による。しかし複数のセキュリティ専門家は、現在公開されている迂回手法はすでに実用的な効果を発揮しており、少なくとも検出の確信度を大幅に低下させることができると指摘している。

EU規制の板挟み

EUは『人工知能法（AI Act）』においてすでに透明性要件を提示していた。最新の規則草案ではさらに詳細が規定されており、大規模モデルが公開するAI生成コンテンツには機械可読なマーキングが必要であり、技術的実現可能性の観点から「信頼性があり、相互運用可能で、アクセス可能な」方式を採用することが求められている。

しかし「技術的に実現可能」という表現は弾力的な条項だ。Anthropicの電子透かしは積極的な試みと評価されているが、その弱点ゆえに中核的な準拠手段を担うことは難しい。批評家たちは、規制当局が電子透かしのような「事後検出」技術に過度に依存すべきではなく、コンテンツ登録制度・サービス提供者の責任連鎖の構築、そしてオープンソースコミュニティへのより明確な規範の提供を同時に進めるべきだと主張している。

軍拡競争の始まり

歴史的に見れば、画像の透かし、ディープフェイク検出、テキスト追跡のいずれにおいても、技術的な防御策が登場するたびに新たな迂回手法が生まれてきた。本質的な問題は、規制ルールが迅速に更新され、企業が透かし技術を継続的に改善するインセンティブを持てるかどうかにある。

これに対しAnthropicは、「私たちの透かし方式は万能薬になることを意図していない。目的は現在の技術条件のもとで信頼性の高い追跡手段を提供することだ。パッチ適用を常態化させていく」と回答した。しかしこれが意味するのは、AI生成コンテンツへの電子透かしは「破れない絶対的なマーク」にはなれず、長い猫とねずみのゲームにおける継続的な変数へと転換していくということかもしれない。

業界とユーザーへの示唆

開発者にとっては、AIコンテンツの規制準拠を真剣に扱うなら、電子透かしを唯一の防衛線にすることはできない。一般ユーザーにとっては、透かし検出結果を見てもさらなる警戒が必要だ。規制当局にとっては、技術標準に加えて、利用シーンと責任主体への考慮を組み込むべきだ。

本記事の冒頭の場面に立ち返ると、Anthropicの発表がまだニュースの注目を集めているうちに、プログラマーたちは実際の行動で「インターネットが規制に抵抗する本能」を証明した。この緊張関係は消えることなく、AI技術の発展とともに進化し続けるだろう。本記事はWIREDより編訳。