xAI、GrokによるCSAM生成を認めた後、初めてユーザーを提訴

イーロン・マスク傘下の人工知能企業xAIは先日、Grokユーザーを対象とした初の訴訟を提起した。あるユーザーがAIチャットボットを使って児童性的虐待素材（CSAM）を制作したとして告発するものだ。この事件は、xAIがコンテンツ安全問題への対応において、否定から積極的な責任追及へと戦略を転換したことを示している。

訴訟の詳細：否定から提訴へ

Ars Technicaの報道によると、xAIは法廷文書の中で、被告ユーザーが「意図的かつ繰り返し」Grokを使用して未成年者を性的に描写した画像を生成し、公開プラットフォームに拡散したと主張している。xAIは、該当コンテンツを発見次第即座に削除し、全米行方不明・被搾取児童センター（NCMEC）に報告したと述べている。しかし同社はこれまで、Grokには厳格な安全フィルターが組み込まれておりCSAMの生成を阻止できると公言していた。今回の提訴は、そのフィルターが完璧ではないことを事実上認める形となった。

「xAIはもはやGrokがCSAMを生成できないとは主張していない。代わりに、悪意あるユーザーへの法的訴追という手段を選び、他の潜在的な違反者を抑止しようとしている。」——法律分析コメント

業界の背景：AI生成CSAMというグレーゾーン

生成AIの普及に伴い、AIを利用した児童性的虐待素材の制作は世界的な問題となっている。2024年、スタンフォード大学の研究では、オープンソース・クローズドソースを問わず複数の主要AIモデルが、特定のプロンプト入力によって不適切なコンテンツを生成し得ることが明らかになった。OpenAI、Google、xAIなどの企業はコンテンツ審査の仕組みを導入していると主張しているが、攻撃者は「プロンプトインジェクション」や敵対的プロンプトの生成によって制限を回避することが多い。以前には、MetaやMicrosoftといったxAIの競合他社が、CSAMの効果的なフィルタリングに失敗したとして集団訴訟を起こされている。今回xAIが規制当局の動きを待たずにユーザーを提訴したことは、先手を打つ戦略として捉えられている。

編集者注：プラットフォームの責任とユーザー行為の綱引き

xAIの今回の行動は表向きは犯罪の取り締まりだが、実質的には自社プラットフォームの脆弱性から世間の注意をそらす狙いがある可能性がある。AI企業が利用規約やユーザー契約の厳格な執行によって責任を追及できるとすれば、通信品位法第230条（Section 230）によるプラットフォームへの免責は依然として適用されるのだろうか。法律専門家は、プラットフォームが「CSAMの生成を禁止する」と積極的に約束し行動した時点で、実質的な審査義務を負ったとみなされ、将来の訴訟において免責の一部が失われる可能性があると指摘している。さらに、個々のユーザーを提訴することがCSAMの生成を効果的に抑止できるのかという問題もある。より根本的な解決策は、モデルの学習データのクリーニング強化と、より堅牢なリアルタイムフィルタリングシステムの導入かもしれない。

今後の展望

xAIは訴訟において損害賠償と当該ユーザーによるGrokの再利用禁止を求めている。また同社は、より高度な「敵対的訓練（adversarial training）」や人間による審査チームの導入など、安全モデルの改善を進めていると述べている。しかし批評家は、モデルがリアルな人物画像を生成できる限り、悪意ある利用を完全に根絶することは難しいと指摘する。この事例は、AIプラットフォームが将来的に違法コンテンツをどう扱うかの先例となる可能性がある。ユーザーをより積極的に提訴するのか、それともより大きな技術的責任を負うのか——その答えはまだ明らかではない。

本記事はArs Technicaより編集翻訳