サンフランシスコ地方検察官、AppleとGoogleにAI脱衣アプリの収益分配停止を要求

2026年7月18日、サンフランシスコ地方検察官事務所は正式声明を発表し、AppleとGoogleに対してアプリストアに掲載されている「AI nudify」アプリ（人工知能技術を用いて写真内の人物の衣服を除去したり裸体画像を生成したりするアプリ）からの手数料徴収を即時停止するよう求めた。検察当局の試算によると、両大手テクノロジー企業はこの種のアプリからの収益分配だけで既に数百万ドル規模の収入を得ているという。

AI脱衣アプリの暗部

「AI nudify」アプリは一般に「アート生成」や「ボディ編集」といった名目でリリースされているが、その実質的な中核機能は、深層学習モデルを用いてユーザーがアップロードした写真を処理し、被写体の同意なしに裸体または露出した画像を生成することにある。この種のアプリは生成AI（Generative AI）の能力を悪用したものであり、2020年前後に公憤を呼んだ「DeepNude」ソフトウェアと根を同じくする。これらのアプリはポルノ制作、ネットいじめ、さらには恐喝といった違法行為に利用されることが多いにもかかわらず、ここ数年で主要アプリプラットフォーム上に断続的に姿を現し、無料トライアルやアプリ内購読サブスクリプションなどの方法で収益を得てきた。

「テクノロジープラットフォームは、ユーザーのプライバシー保護を謳いながら、プライバシーを侵害する取引から多額の手数料を得ることはできない。」——サンフランシスコ地方検察官事務所声明

プラットフォームの収益分配と責任

AppleおよびGoogleの標準規約に基づき、アプリ内購入で生じた収益の15〜30%が手数料としてプラットフォームに徴収される。検察当局の調査によると、一部のAI脱衣アプリの月間収益は数十万ドルに達しており、プラットフォームが単一アプリから年間数十万〜数百万ドルの収益分配を得ていることを意味する。さらに懸念されるのは、多くのアプリが虚偽のレビュー、曖昧な説明文、頻繁なアップデートといった手法を用いてプラットフォームの審査を回避していることだ。たとえば、審査通過後に密かに「脱衣」機能を追加するアプリや、コアアルゴリズムを一見正常な写真編集ツールの裏に隠したアプリが存在する。

サンフランシスコの検察官はカリフォルニア州の「不公正競争防止法」および「消費者法的救済法」を引用し、アプリが違法または重大なプライバシー侵害に関与していることを知りながら収益を得続けることは「不公正な商業行為」を構成すると指摘した。これまでAppleとGoogleは同様の問題を理由に一部のAIポルノアプリを削除したことがあるが、検察官は「警告と削除だけでは、継続的に利益を得る動機を相殺するには不十分だ」と主張している。

編集者注：AI時代におけるプラットフォーム責任の境界線

今回の事件は、「プラットフォームの中立性」と「能動的な監督責任」をめぐる論争を再び頂点へと押し上げた。従来の見方では、アプリストアは技術インフラとして、ユーザーが公開したコンテンツについて直接責任を負うべきではないとされてきた。しかしAI技術の特殊性が、この論理を変えつつある。プラットフォームがアルゴリズムによって生み出された侵権行為の結果から直接経済的利益を得ており、かつ技術的手段（より厳格な審査アルゴリズムやAPI制限など）によってそれを阻止する能力を持っている場合、「知らなかった」はもはや免責の理由とはならない。特に米国では、近年の複数の訴訟において「プラットフォームはサードパーティ開発者の行為に対して合理的な注意義務を負う」という先例が確立されてきた。AppleとGoogleがこれまで児童プライバシーやマルウェアなどの領域で積み上げてきた管理経験は、AIアプリ審査の参考になるかもしれない。

今後想定される法的帰結

サンフランシスコ地方検察官事務所は即時提訴の有無については明らかにしていないが、AppleとGoogleが実質的な措置（関連アプリカテゴリの恒久的な禁止や被害者補償基金の設立など）を講じなければ、裁判所の差止命令やクラスアクション訴訟によって企業に戦略変更を迫ることを検討すると警告した。また連邦レベルでは、「人工知能説明責任法」草案においてアプリストアをAIアプリの規制チェーンに組み込む議論も進んでいる。

本稿執筆時点で、AppleとGoogleはいずれも正式なコメントを発表していない。しかしアナリストらは、評判リスクと潜在的な規制の嵐を考慮すれば、両社が近く生成AIアプリの審査方針を厳格化し、「ボディ編集」類のアプリをすべて自主的に削除する可能性が高いと指摘する。ただし、利益の余地が存在する限り、この種のアプリはサードパーティのアプリストアやウェブ直接配布という形態に移行して運営を続ける可能性があり、それはまたAIツールの利用をいかに根本から規制するかという、より広範な議論を引き起こすことになる。

技術が急速に進化する今日において、サンフランシスコ検察官による今回の声明はあるいは始まりに過ぎないかもしれない。AIの魔法がプライバシー侵害の道具と化したとき、プラットフォームの役割は果たして門番なのか、共犯者なのか、それとも無実の傍観者なのか。その答えは、テクノロジー産業全体の将来の方向性に影響を与えるだろう。

本記事はArs Technicaより編訳