AnthropicがClaudeの透かし技術を詳解：編集では除去困難、コードにも影響

AIコンテンツが氾濫する時代において、ある文章が機械によって生成されたかどうかを識別する方法は、テクノロジー企業と社会が共同で直面する難題となっている。大手AIラボのAnthropicは最近、モデルClaudeにおけるテキスト透かし技術の詳細を公開した。AI生成コンテンツに「不可視のマーキング」を提供することを目的としている。

ここでいう透かしとは、テキストに肉眼で見えるマークを付加するものではなく、モデル自身の生成ロジックを利用して特定のパターンを埋め込むものだ。Anthropicの研究者によると、Claudeはトークンをサンプリングする際に、暗号鍵に基づいて一部のトークンの確率を微調整することで、可読性に影響を与えることなく独自の統計的指紋を残す。対応する鍵を持つ検出器であれば、テキスト内の確率分布の異常を分析することで、そのテキストがClaudeによって生成されたかどうかを判定できる。

Claudeの透かしはどのように機能するのか？

わかりやすく言えば、この透かしはテキスト中に「隠しコード」を織り交ぜるようなものだ。大規模言語モデルがテキストを生成する際の本質は、トークンごとに次の単語を予測することであり、Anthropicはランダムに一部の位置を選択し、それらの位置で特定の候補単語の出現を強制または抑制する。こうして生成されたテキストは意味上ほぼ変化がないが、トークン列の頻度分布には確定的な情報が埋め込まれる。検出時には統計的なパターンを照合するだけでよい。

Anthropicは特に、この方式は追加の計算リソースを必要とせず、生成速度を低下させることもなく、透かしに対応したAPIは完全に透過的に結果を返すことができると強調している。これは、別途検出モデルを実行する必要がある他の方式との違いだ。

編集で透かしは除去できるのか？

ユーザーが最も懸念する「編集によって透かしを除去できるか」という点について、Anthropicは率直に、テキストへのいかなる修正も透かしを破壊する可能性があるが、その代償としてテキストの質も同時に低下すると説明している。たとえば、一部の語句を削除または置換すると統計的パターンに断絶が生じるが、こうした変更は通常、テキストの流暢さと情報の完全性を低下させ、長文においては特に顕著だ。

研究者はまた、本当に執拗な攻撃者であれば複数回の書き直しや、別のAIモデルを使って透かしを「洗い流す」ことも可能だと指摘している。しかし、それには時間と計算コストが大幅に増加するため、AIコンテンツを大規模に検出するという目標に対しては、実質的な抑止力となっていると述べている。

「私たちは透かしが唯一の解決策だとは考えていないが、コンテンツの帰属をより明確にするための実行可能な道筋を提供すると確信している。」――Anthropic研究チーム

コード生成への影響

特に注目すべきは、コードへの透かしの影響が通常のテキストとは異なる点だ。コードには厳格な構文構造があるため、透かし処理でトークンの選択が強制的に変更されると、意味は変わらないものの書式（空行やコメントなど）に微妙な変化が生じる可能性がある。Anthropicはコードのシナリオに向けた最適化を行い、コメント内の冗長な語順や変数命名の細かなパターンなど、影響が最小限の箇所に透かしを埋め込むようにしていると説明している。

しかし、これは依然として開発者に課題をもたらす。多くの企業はまずClaudeにコードを生成させ、その後人間が審査・修正する。こうした修正は意図せず透かしを除去してしまい、追跡が無効になる可能性がある。一方、悪意あるユーザーはコードのコンパイルやフォーマットツールを利用して透かしを隠蔽することができ、自然言語テキストを修正するよりも簡単だ。Anthropicは、コードの透かしの堅牢性は現時点では自然言語テキストより低く、今後も専用の対抗策の研究が必要だと認めている。

透かし技術の業界的背景と今後の課題

Anthropicのこの取り組みは、世界的なAI規制が高まる時期と重なっている。EUの「AI法」は高リスクAIシステムの出力に対してトレーサビリティを要求しており、中国や米国などの国々でも類似の管理枠組みが議論されている。以前、OpenAIはChatGPT向けのテキスト透かしツールを試験的に導入したが、ユーザー体験とエラー率への懸念から棚上げにした経緯がある。Anthropicが詳細を公開したのは、実用可能な技術的方策を示すとともに、より多くのサードパーティによる独立した検証への参加を促すためだ。

ただし、透かし技術に異論がないわけではない。プライバシー擁護者は、透かしの鍵が一旦漏洩すれば、攻撃者は任意のAIテキストをClaudeが生成したように偽装してマーキングを容易に偽造でき、それを濡れ衣を着せたり責任回避に利用できると懸念している。また、透かし検出の精度も問題だ。統計的な閾値の設定が適切でなければ、通常の人間の文章（特にAIに近い語彙パターンを持つテキスト）を誤検知する恐れがある。Anthropicは、まず自社のAPIとClaudeウェブ版で透かしを有効化し、サードパーティの検出ツールからのアクセスも許可すると述べている。

編集部の見解として、透かしはAIの透明化プロセスにおける重要なピースではあるが、それがゴールではない。コンテンツの来歴追跡、プラットフォームのガバナンス、ユーザー教育と組み合わせる必要がある。多方面の協力によるエコシステムの中でのみ、AIコンテンツはオープン性と信頼のバランスを実現できるだろう。

本記事はTechCrunchより編訳