xAIがGrokを使ったCSAM生成でサウスカロライナ州男性を提訴――AI企業によるユーザー訴訟の初事例

2026年7月15日、xAIはテキサス連邦裁判所においてサウスカロライナ州在住の67歳男性Terry Wayne Harwoodを提訴した。利用規約に違反し、Grokを使用して非性的画像を児童性的虐待素材（CSAM）および非自発的ディープフェイク画像に変換したとして訴えたものである。

事実の整理

Harwoodは2026年2月に児童性的搾取の容疑で逮捕されており、xAIは同人が成人および未成年者の非性的写真をアップロードし、誤解を招くプロンプトを巧みに設計してGrokの内蔵安全機能を回避し、露骨なコンテンツを生成したと主張している。訴状ではHarwoodが成人を対象とした非自発的性的画像を作成したことも言及されている。xAIは裁判所に対し、非公開金額の損害賠償の認定とHarwoodによるGrokの永久使用禁止を求めている。ロイターの報道によれば、xAIは訴訟の中で、アカウントの停止・解約および国立失踪・被搾取児童センター（NCMEC）への不審素材の報告によってルールを執行していると説明しており、2026年には52,222件のアカウントを停止し、73,604件の報告を提出した結果、少なくとも244人が逮捕されたとしている。

メカニズムの分析

本件の発端は、Grokの画像編集機能の実際の動作方式にある。2025年8月にxAIがSpicy Modeを導入し、フォトリアリスティックなヌード画像の生成に対応したのち、画像編集機能を一般公開し、ユーザーがアップロードした非性的写真を露骨なコンテンツへ変換できるようにした。Harwoodは精巧に設計されたプロンプトによって安全機能を回避し、このシステムを犯罪目的に使用したとされる。xAIの執行記録によれば、プラットフォームは全ての違反入力を完全に遮断するのではなく、事後的な報告とアカウント停止に依存しており、その結果として特定のユーザーが外部の法執行機関に逮捕されるまでコンテンツ生成を繰り返し試みることが可能な状態にあったことが示されている。

また7月初旬には、5名の匿名の少女・女性からなる別グループがxAIおよびStability AIを提訴しており、Grokが彼女たちの幼少期の非性的写真を非自発的な性的素材の生成に利用されたと主張している。これは画像編集機能が実際の使用においてもたらすリスクを裏付けるものである。xAIは訴訟の中で、被告の行為が同社を法的リスクおよび評判上の損害にさらすとともに、実際の被害者に継続的な傷を与えると強調している。

業界への影響

競合他社にとって、本件は画像生成ツールに関するコンプライアンス圧力の高まりをもたらすことになる。Stability AIはすでにxAIと同一原告からの訴訟に直面しており、今後より厳格な規制審査と利用規約の改訂を求められる可能性がある。開発者コミュニティは画像編集機能の公開範囲を再評価し、機能としての魅力と潜在的な法的責任コストの間のバランスを取り直す必要に迫られる。視覚コンテンツ処理に類似ツールを活用している企業ユーザーは、より厳しい審査基準や使用制限に直面し、開発サイクルの長期化を余儀なくされる可能性がある。

一般ユーザーレベルでは、非自発的コンテンツ生成の実行可能性を低下させるため、プラットフォームがプロンプトフィルタリングとアップロード審査を強化する可能性があるが、それによって合法的な創作空間が制限されることも考えられる。xAIは今回の訴訟を通じて、プラットフォームが技術的保護のみに依存するのではなく積極的にユーザーを追及するという明確なシグナルを発しており、これが他のAI企業による内部執行戦略の見直しを促す可能性がある。

比較と先例

これまで世界各地でAI生成ディープフェイクコンテンツに関する訴訟は複数発生しているが、AI企業が自社ユーザーを直接提訴するケースは今回が初めてである。xAIの執行データ——52,222件の停止と73,604件のNCMEC報告——は定量的なプラットフォーム対応規模を示すものであり、従来のコンテンツフィルタリングのみに依存していたアプローチとは一線を画す。Muskはかつてプラットフォームにてユーザーへの違法コンテンツ生成禁止を警告する投稿を行っており、同社が以前から公開声明によって境界線の画定を試みていたことが示されている。

戦略的評価

現在の訴訟記録と執行データに基づけば、xAIは民事訴訟による利用規約の執行強化を継続しつつ、画像生成経路に対するリアルタイム遮断テストを強化する可能性が最も高い。NCMECへの報告件数とその後の逮捕者数の推移は、プラットフォームが事後的な責任追及だけでなく事前防護へより多くのリソースを投入するかどうかを反映する指標となる。この判断は、開示されたアカウント処理規模と複数の並行訴訟との関連分析に基づくものである。長期的には、類似事案が業界統一基準の策定を促し、AI企業に対してユーザーの違反パターンの記録と開示を義務付けることで、全体的な法的露出リスクの低減が図られる可能性がある。xAIが求める永久使用禁止命令が認められれば、他のプラットフォームが活用できる法的テンプレートとなるだろう。