xAIがミネソタ州AI非自発的裸像禁止法への訴訟で敗訴——禁令は8月1日に発効、違反で最高50万ドルの罰則

連邦判事はxAIによるミネソタ州HF 1606の停止申請を却下した。同法は非自発的親密画像の生成をアプリおよびウェブサイトに対して禁止するもので、2026年8月1日に発効し、違反企業には1件あたり最高50万ドルの罰則が科される。

2026年7月27日、xAIはミネソタ州連邦地区裁判所にて司法長官キース・エリソンを提訴し、同法は内容に基づく規制であり過度に包括的であること、また第一修正条項によって保護される性的でなく非自発的・未流布の表現をも対象に含むと主張した。ドノヴァン・フランク判事は7月31日の裁決において、xAIが法律署名からおよそ3か月後になって申立てを行った点を指摘し、損害の緊迫性が認められないとして仮差止命令の申請を却下した。

法律の仕組み

HF 1606は規制対象を利用者だけでなく、上流のツール提供者にまで拡大している。ミネソタ州にはすでに非自発的ディープフェイクコンテンツの流布を禁じる刑事法が存在していたが、新法は親密な場面を描写するために画像を生成・加工する機能を持つAIツールを直接対象とし、開発者がコンテンツフィルターを導入しているか否か、あるいは被害の意図があるか否かを問わない。上院では65対0、下院では132対1で可決されており、超党派の支持を示している。

同法は、ソーシャルメディア上の写真を用いて超現実的な性的画像や動画を生成する技術に対し、被害者および司法長官室が提訴できる手段を提供する。法案の起草者である州上院議員エリン・メイ・クエードは2年前に立法を開始しており、女性たちから個人写真がそうした用途に使われているとの訴えを受けたことがきっかけだった。

各利害関係者への影響

xAIにとって、仮差止救済が認められなかったことは、ミネソタ州での運営においてGrok関連の画像生成機能を即時に調整しなければならないことを意味し、応じなければ1件あたり50万ドルの罰則に直面する。xAIは非自発的ディープフェイクを防ぐ取り組みへの支持を表明しつつも、同法が既に実施されている安全対策を考慮していないと主張している。

他のAI開発者にとっては、自社ツールにnudification（裸体化）機能があるかどうかを評価し、同州向けに機能の再設計または制限を行う必要が生じる。コンプライアンスコストの上昇により、一部の企業が同州市場から撤退したり、ジオフェンシングを強化したりする可能性がある。

ユーザーおよび被害者にとっては、禁令発効後にAIツールを通じた非自発的画像の生成経路が制限され、州の執行機関が個人だけでなく企業を追及するための新たな手段を得ることになる。エリソン司法長官はミネソタ州民の尊厳を守ると述べた。

比較事例

2025年にはマスク関連事業体が絡む類似の訴訟がミネソタ州の初期ディープフェイク法に異議を申し立てたが、同様に認められなかった。同州がこうした規制を裁判所で維持してきた実績が、今回判事がHF 1606の進行を認める判断に影響を与えた可能性がある。

今後の展望

案件はまだ初期段階にあり、8月12日までにエリソン司法長官が仮差止命令への反論書を提出し、xAIの最終準備書面の期限は8月17日、審問は8月19日に予定されている。裁判所が仮差止救済を却下したことは、xAIが最終的に勝訴する可能性を高く評価していないことを示している。仮差止審問でもxAIが再び敗れた場合、より多くの州がAIツール提供者への直接責任モデルを追随する可能性がある。一方、xAIが本案審理で憲法上の主張を進めた場合、複数の州法令間の衝突が生じる可能性がある。