Grokは依然として女性有名人のディープフェイクポルノコンテンツをホスティングしている

2026年6月12日、『WIRED』誌が発表した最新調査により、イーロン・マスクが創設したxAI社傘下のAIチャットボットプラットフォームGrokが、著名女性を標的にした大量のディープフェイクポルノコンテンツを継続的にホスティングしているという不穏な事実が明らかになった。「裸体化」写真や動画を含むこれらの非自愿的な性的コンテンツは、多数のハリウッド女優だけでなく、少なくとも1人の著名な米国政治家にまで及んでいる。

調査の発見：数十件のディープフェイクコンテンツが公然と存在

調査員がGrok公式サイトを全面的にスキャンしたところ、AIによって「脱衣」処理が施された有名人のディープフェイクコンテンツが数十件発見された。これらのコンテンツは生成AI技術を用いて、本来は適切な服装の写真や動画を露骨な性的画像に置き換えたものであり、いずれも当事者の同意を得ていない。一部のコンテンツはGrokの公開閲覧エリアから直接アクセス可能であり、特別な権限を必要としない。

注目すべきは、偽造の被害を受けた対象に社会的影響力の大きいエンターテインメント界の著名人や、立場の敏感な政界女性が含まれていることだ。調査によれば、Grokプラットフォームはこうした明らかな肖像権・プライバシー権の侵害にあたるコンテンツに対して、有効な事前フィルタリングを実施していないとみられる。xAIはGrokの製品説明において「非自愿的なポルノコンテンツの生成を禁止する」と明記しているが、現実の審査メカニズムは機能していないも同然だ。

「プラットフォームは非自愿的なポルノコンテンツを禁止すると謳っているが、実際の審査は形骸化している。」——『WIRED』調査チーム

技術的背景：AI会話からコンテンツ拡散に至る脆弱性の連鎖

Grokは当初「反骨精神を持つ」AIチャットアシスタントとして位置づけられていたが、その技術アーキテクチャはユーザーがプロンプトを通じてマルチメディアコンテンツを生成・共有することを可能にしている。調査員によると、Grokの一部機能——画像生成やコミュニティ共有など——は出力物中の顔の出所を厳格に制限していない。このため、悪意あるユーザーが公人の写真を利用し、サードパーティツールやプラットフォーム内蔵の生成ツールを通じてディープフェイクコンテンツを作成し、Grokコミュニティにアップロードすることが可能になっている。

この脆弱性は孤立した事例ではない。近年、拡散モデル（Diffusion Model）のオープンソース化の波により、一般ユーザーは高度なプログラミングスキルなしにリアルな偽造画像を生成できるようになった。TelegramやRedditなど複数のプラットフォームもこの問題で批判を受けてきたが、Grokのような主要AI企業が運営するプラットフォームで同様の問題が発生することは、より大きな警鐘となる。

業界の背景：ディープフェイクをめぐる法的・倫理的ジレンマ

実際には、多くの先進国が同意なしのディープフェイクポルノコンテンツに対して法的措置を講じ始めている。米国の複数の州では対象を絞った立法が行われており、英国は2024年に「ディープフェイクポルノコンテンツの共有」を刑事犯罪として規定した。しかし法律の後れにより、多くの事例では被害者が自ら提訴しなければ削除を促すことが難しい。同時に、コンテンツプラットフォームの自律的な管理メカニズムは技術の進化の速さにはるかに追いついていない。

イーロン・マスクはかねてより「絶対的な言論の自由」を公言してきたが、今回のGrok事件は、自由と責任の境界がAI時代においていっそう曖昧になっていることを示している。xAI社は今回の調査に対して正式なコメントをまだ発表していないが、トップクラスのAI企業でさえプラットフォームがディープフェイクポルノコンテンツの温床になるのを防げないのであれば、業界全体がより大きな規制圧力に直面することになるという見方が広まっている。

編集後記：技術の悪用は決して新しい問題ではないが、AIツールの開発者が基本的なコンテンツ安全に関する責任を回避し始めたとき、私たちは警戒しなければならない——これは新たな「技術逃避症」の蔓延を予兆するものではないのか？Grok事件は改めて、AI企業は優れた製品を生み出すだけでなく、責任あるコンテンツエコシステムを構築する義務があることを示している。違法コンテンツの横行を放置すれば、最終的に損なわれるのは業界全体の信頼性である。

影響と展望：ユーザーとプラットフォームの双方における意識の覚醒

今回の調査はソーシャルメディア上で広範な議論を巻き起こした。権利擁護団体はxAIに対し、関連コンテンツを直ちに削除し、透明性のあるコンテンツ審査プロセスを構築するよう求めている。同時に、ユーザーもディープフェイクを見抜く能力を高め、疑わしいコンテンツを積極的に報告するよう呼びかけられている。技術そのものに罪はないが、使用の境界をどこに引くかは、AIに関わるすべての当事者が答えなければならない問いである。

記事執筆時点で、Grokプラットフォーム上の一部の問題コンテンツはアクセスが制限されているが、調査員はこれが暫定的な措置に過ぎないと見ている。xAIが真に技術を善のために活用できるかどうか、今後の動向が注目される。

本記事は『WIRED』より編訳