裁判官がxAIの申し立てを却下、ミネソタ州の「AIヌード化」アプリ禁止令が継続へ

イーロン・マスク傘下の人工知能企業xAIは、ミネソタ州が「nudify」アプリに対して施行した禁止令の執行阻止を試みたが、この試みは法廷で退けられた。地元の連邦裁判官はxAIの緊急申し立てを却下し、同州の法律の継続的な効力を認めた。これにより、訴訟が終結するまでの間、ミネソタ州は「ワンクリック脱衣」を可能にするAIアプリを法律に基づいて取り締まることができる。

「Nudify」から「AIヌード化」へ：技術の悪用がもたらす法的難題

「nudify」アプリとは、生成AI（AIGC）技術を基盤に開発されたツールである。ユーザーが鮮明な人物写真を一枚アップロードするだけで、AIは数秒以内にその人物の合成ヌード画像を生成し、その精巧さは本物と見紛うほどだ。このようなアプリはコストが低く拡散が速いため、恐喝・侮辱・嫌がらせを目的とした不法行為に悪用されることが多く、被害者の大半は無防備な女性たちである。

ミネソタ州はこの種のアプリに対していち早く立法措置を講じた州の一つだ。新法は、他者の同意を得ない深偽造（ディープフェイク）性的コンテンツの作成および拡散を違法行為とするだけでなく、アプリストアに対して関連ソフトウェアの削除を義務付けている。モデルのオープンソース化とエコシステムの拡大に依存するAI企業にとって、このような禁止令がもたらす制約は無視できない。

裁判所がxAIの執行停止申し立てを却下した理由

xAIは訴訟において、禁止令の定義が広すぎて映画の特殊効果や医療画像処理など合法的な画像編集アプリにまで影響が及ぶと主張した可能性がある。また、修正第一条が保障する「言論の自由」を根拠に、AI生成コンテンツも表現の範疇に含まれると訴えた可能性もある。しかし裁判官は判決において、州政府の安全上の配慮を妥当と認めた。仮処分命令の申し立てを退けたことからも、裁判所は当事者の同意なき露骨なコンテンツの拡散を防ぐことが、企業の商業的利益よりも優先すべき公共の利益であると判断したことが読み取れる。

「技術の中立性は、その応用が無害であることを意味しない。ツールが暴力の延長と化したとき、法律はいち早くその一線を示さなければならない。」 —— 編者注

多方面の攻防：米国各州と連邦レベルでのAI規制が加速

ミネソタ州の取り組みは孤立した事例ではない。複数の情報源によれば、米国ではすでに十数州がディープフェイクポルノに関する法律を制定しており、連邦レベルでも関連法案が検討されている。テクノロジープラットフォームへの圧力は日増しに高まっている。

xAIにとって、この訴訟は一種の「法律上の試金石」に過ぎないかもしれない。しかしより根本的な問題は、AI業界が「無秩序な成長」というレッテルを払拭しようとしているまさにこの時期に、公共安全に関わる立法に異議を唱えるいかなる姿勢も、主流の価値観に反するものとして受け取られるという点にある。

業界の動向によれば、主流のAI企業の多くはすでにモデルのトレーニングに「レッドチームテスト」を導入し、不適切な画像生成リクエストの識別とフィルタリングに取り組んでいる。社会的責任を事前に組み込むことが、事後に訴訟を戦うよりもはるかに賢明な選択であることは明らかだ。

結語：イノベーションは危害を加える免罪符にはなれない

人工知能の発展は、人類により多くの自由をもたらすものであるべきだ。一部の人々の恐怖や羞恥を人為的に生み出すためのものであってはならない。裁判官がxAIの申し立てを却下したことは、技術の進歩を否定したのではなく、すべての関係者に対して「技術が強力であればあるほど、責任もより重大である」ということを改めて示したのだ。

この訴訟はミネソタ州の法廷で引き続き審理される。xAIが妥協して折り合いをつけるのか、それとも抗争を続けるのか。今後の展開が注目される。

本記事はTechCrunchより編訳