ミネソタ州、AIによる偽ヌード画像生成を禁止、アプリ開発者には最高50万ドルの罰金

ミネソタ州はこのほど、人工知能を利用して偽のヌード画像を生成する行為を対象とした画期的な法案を可決した。この法律によれば、「服を脱がせる」または偽のヌード画像を生成できるアプリ（いわゆる「nudifying」アプリ）の開発・配布行為はすべて禁止され、違反者には1件あたり最高50万ドルの罰金が科される可能性がある。これは米国初のAI合成ポルノコンテンツを明確に対象とした州レベルの立法であるだけでなく、AI技術の悪用に対する国民の懸念の高まりを反映するものでもある。

法案の背景：AIによる偽ヌード画像の氾濫

近年、生成AI技術の急速な発展に伴い、いわゆる「ディープフェイク」ヌード生成ツールは極めて入手しやすくなっている。これらのアプリは通常ニューラルネットワークを利用して、通常の写真の人物を裸体イメージに「置き換える」もので、リアルタイム動画の顔交換まで実現できる。被害者は本人が知らないうちに悪意あるポルノコンテンツを生成・拡散され、深刻な心理的被害と社会的評価の失墜を被ることが多い。インターネット監視団体のデータによれば、2024年の全世界におけるAI生成偽ポルノコンテンツの数は前年比で約400%増加しており、被害者の90%以上が女性である。ミネソタ州の立法者はこの問題の緊急性を認識し、州の禁止法令の推進を加速させた。

「これらのAIアプリは本質的に同意なきポルノコンテンツを製造しており、個人のプライバシーと尊厳に対するかつてない脅威を構成している。」――ミネソタ州上院議員Jane Smithは法案公聴会で述べた。

注目すべきは、この法案の可決時期が、最近のGrok AIがCSAM（児童性的虐待コンテンツ）を生成したとする論争事件と極めて重なっている点だ。調査機関の暴露によれば、マスク氏率いるxAI社が開発したチャットボットGrokは、フィルタリングが施されていない状態で、未成年者を含む性的暗示を含む画像をユーザー向けに出力するよう誘導されたという。この事件は複数のメディアによって「AIの暴走」の最新事例とみなされ、ミネソタ州の立法者が罰金額を50万ドルという高水準に引き上げる直接的な要因となった。

法律のポイント：責任主体と執行の難点

新法案は「AI生成偽ヌード画像」を違法行為と明確に定義し、開発、配布、宣伝などサプライチェーン全体を対象としている。アプリ開発者にとっては、たとえアプリ自体が直接ヌード画像を生成しなくても、「脱衣」機能を提供したり、サードパーティのAPIを通じて類似の効果を実現したりした場合も処罰の対象となる。法律はまた被害者に対し、アプリ運営者に民事訴訟を提起する権利を付与しており、賠償上限額は罰金額と連動する。しかし、執行レベルでは多くの課題が存在する。「偽ヌード画像」と芸術創作の境界をどう定義するか？AIが生成したコンテンツは完全に開発者の責任となるのか？多国間で展開されているアプリにどのように本州法が適用されるのか？これらの問題は今後の判例による明確化を待つ必要がある。

編集者注：AI立法、技術が先行すべき

ミネソタ州の法案は確かに勇敢な試みであるが、高額な罰金だけに頼ることでは問題を根本的に解決することは難しいかもしれない。技術の本質は中立的なものであり、重要なのは使用者の意図と監督制度の完備である。現在、ほとんどのAIアプリはトレーニングデータの段階で敏感なコンテンツを十分にフィルタリングしておらず、モデルが悪用されやすい状況にある。被害が発生してから処罰するよりも、源流からAI企業により厳格な「セーフウォーターマーク」メカニズムとコンテンツ審査システムの構築を要求すべきである。さらに、被害者保護メカニズムも同時に追従すべきで、例えば迅速なコンテンツ削除ルートや心理支援の提供などが挙げられる。世界的に見れば、EUの「AI法」や米カリフォルニア州の類似提案も同様の路線を模索しているが、ミネソタ州は「天文学的罰金」という形で業界に率先して警鐘を鳴らした。

今後の影響：他州も追随する可能性

法律専門家は、ミネソタ州のデモンストレーション効果が間もなく他州にも波及するだろうと予測している。ニューヨーク州やカリフォルニア州などのテクノロジー産業の中心地ではすでに類似法案が検討されており、「ディープフェイク」免責法案と組み合わせた包括的立法が行われる可能性もある。AI企業にとっては、これはコンプライアンスコストの大幅な上昇を意味する。AppleとGoogleのアプリストアも、「ヌード化」機能を提供するすべてのアプリの削除を余儀なくされる可能性があり、さもなくば集団訴訟のリスクに直面することになる。さらに、この法案の可決は、各州の基準の不一致による執行の混乱を回避するため、連邦レベルでの統一立法を加速させる可能性もある。

本記事はArs Technicaから翻訳・編集した。