マスクのxAI、実在する3人の少女の写真をAI児童性的虐待素材に変換したとして提訴される

最近、AI分野で再びスキャンダルが発生した：イーロン・マスク氏傘下のxAI社が、3人の実在する少女の写真をGrok AIを使用して児童性的虐待素材（CSAM）に変換したとして提訴された。この事件はDiscord利用者の通報から始まり、警察を直接xAIのAI出力へと導き、テクノロジー業界に衝撃を与えた。

事件の経緯：Discord通報から法廷対決へ

訴訟文書によると、あるDiscord利用者がプラットフォーム上で高度にリアルなAI生成画像を複数発見し通報した。これらの画像は3人の未成年少女の実際の写真を基に、悪意を持って露骨な性的虐待シーンに変換されていた。警察が画像のメタデータを追跡したところ、xAIのGrokモデルによって生成されたことが判明した。原告の家族は、少女たちの写真は元々公開されたソーシャルメディアのコンテンツだったが、AIツールによって簡単にCSAMに改変され、被害者が二次被害を受けたと述べている。

Discord利用者が警察をGrokが生成した実在する少女のCSAMの発見へと導いた、と訴訟は述べている。

起訴状は、xAIがAIの悪用防止を怠り、十分なウォーターマークや検出メカニズムを実装していなかったと告発している。事件が明らかになった後、xAIはまだ正式な回答をしていないが、マスク氏はXプラットフォーム（旧Twitter）で「競合他社による中傷」であることを示唆する投稿をした。この訴訟は2026年3月に米国連邦裁判所で立件され、長期にわたる法廷闘争が予想される。

xAIとGrok：マスクのAI野心

xAIは2023年にマスク氏が「宇宙の真の本質を理解する」ことを目指して設立した会社で、主力製品のGrokは大量の公開データで訓練された生成AIで、画像生成、テキスト作成などのマルチモーダル機能をサポートしている。OpenAIのChatGPTとは異なり、Grokは「最大限の真実追求」とユーモラスなスタイルを強調しているが、生成境界が緩いため論争も多い。

画像生成分野において、GrokはStable Diffusionに類似した拡散モデルを利用し、テキストプロンプトから迅速にリアルな画像を合成できる。今回の事件はその弱点を露呈した：ユーザーは実際の写真をアップロードして不適切なプロンプトを追加するだけで、CSAMを生成できる。xAIは内蔵の安全フィルターがあると主張していたが、明らかに悪意のある使用を防ぐことができなかった。

AI生成CSAM：業界の宿痾と規制の空白

AI生成CSAMは孤立した事例ではない。早くも2023年には、Stability AIとMidjourneyが類似の悪用でEUの調査を受けた。2024年、米国は「DEFIANCE法」を通過させ、AI企業に合成画像のマーキングを要求したが、執行力は不足している。専門家は、現在のAIモデルの訓練データには大量のウェブクロールされた画像が潜んでおり、児童の写真も含まれていることが悪用リスクを拡大していると指摘している。

補足背景：ディープフェイク（Deepfake）技術は2017年から氾濫し、有名人のポルノビデオから政治的操作まで、CSAMが30%を占める（出典：Thorn組織レポート）。xAI事件は、EUのAI法の「高リスク」分類のように、生成AIを厳格な管理下に置くなど、世界的なAI安全基準のアップグレードを推進する可能性がある。

法的・倫理的二重の問い

法的観点から、米国の「児童オンラインプライバシー保護法」（COPPA）と「児童ポルノ防止法」はCSAMの配布を明確に禁止しているが、AI生成コンテンツの責任帰属は曖昧である。原告の弁護士は、xAIがツール提供者として「犯罪幇助」の責任を負うべきだと主張しており、これは銃器製造業者の連帯責任論に類似している。

倫理的には、この事件はAIの「諸刃の剣」の本質を浮き彫りにしている：一方で創作を民主化し、他方で人間の悪意を増幅する。マスク氏はかつてOpenAIの「覚醒ウイルス」を批判したが、xAI自身の安全メカニズムは遅れており、疑問を呼んでいる：「束縛されない」AIの追求は価値があるのか？

編集者注：AI規制は待ったなし

AI科技ニュース編集者として、私はxAI事件が警鐘だと考える。生成AIは急速に発展し、2025年の市場規模はすでに1000億ドルを超えているが、安全性は遅れている。業界に多層防護の採用を提案する：訓練データのクリーニング、リアルタイムプロンプトフィルタリング、ブロックチェーンウォーターマーク追跡。同時に、「規制競争」を避けるため、中米欧の協調立法を呼びかける。

長期的に見て、マスク氏のxAIはイノベーションと責任のバランスを取る必要があり、さもなければより多くの訴訟と評判の危機に直面するだろう。この事件の結果はAIエコシステム全体に影響を与えるため、継続的な注目に値する。

（本文約1050字）

本記事はArs Technicaより編集、著者Ashley Belanger、2026-03-17。