MetaがAI脱衣広告を放置か――未成年少女の写真が標的に

近日、非営利組織「American Justice for Kids」が実施した調査により、Metaが運営するプラットフォームで、AIを用いて未成年少女の写真を「脱衣（nudify）」加工する悪質な広告が長期にわたって横行していた実態が明らかになった。プラットフォーム運営者であるMetaの対応の遅さは、事実上の黙認だと批判を受けている。

AI「脱衣」アプリ広告が氾濫

調査員はMetaが運営するFacebookおよびInstagram上で、少なくとも50件のこうした広告を発見した。これらの広告はいわゆる「AI脱衣」アプリを宣伝しており、一般的な写真を合成裸体画像に変換できると謳っている。さらに衝撃的なのは、広告のデモに使われたサンプル画像が実際のInstagramユーザーの公開写真から取得されており、未成年少女の学校での写真やスポーツウェア姿など日常生活の写真が含まれていた点だ。

「これこそ、男性が実際に使っているAIツールの実態だ――若い少女たちを性的に搾取するために。Metaの広告システムはこうしたコンテンツをブロックするどころか、アルゴリズムによる推薦でより多くのユーザーに配信していた。」――American Justice for Kids調査員

Metaの審査メカニズムはなぜ機能しないのか？

調査によると、これらの広告は最初に通報されてからMetaが削除するまでに平均で2週間以上を要した。繰り返し通報されてもなお掲載が続いた広告も存在した。業界関係者は、MetaのAI審査システムはパターンマッチングによる違反コンテンツの検出に主に依存しているが、巧妙に作られたこれらの広告は変形文字や記号の置き換えなどの手法でフィルタリングを回避していると指摘する。

より根本的な問題として、Metaのコミュニティガイドラインは「成人向け性的示唆コンテンツ」や「ハラスメント・いじめ」を明確に禁止しているものの、新興のAI合成コンテンツ、特にディープフェイク技術を使ったアプリの宣伝に関しては、審査基準とプロセスが技術の進化に明らかに追いついていない。

拡大する「Nudify」地下産業

近年、オープンソースの画像生成モデルの普及により、「脱衣」アプリを開発する技術的ハードルが大幅に下がった。セキュリティ調査機関Graphikaの2024年レポートによると、この種のアプリの月間アクティブユーザー数はすでに数百万人規模に達している。さらに懸念されるのは、これらのアプリの大半がフリーミアムモデルで運営されており、ユーザーは対象の写真をアップロードするだけで、数秒以内に合成裸体画像が生成できる点だ。

現行の法的枠組みはこの問題に対処するには不十分だ。現時点で、AIディープフェイクポルノコンテンツを専門に規制する法律を制定した米国の州はごくわずかであり、連邦レベルの立法作業はいまだ進行中だ。Metaの元政策ディレクターであるBrian Fishmanはソーシャルメディア上でこう述べた。「テクノロジー企業は単に『削除』するだけでは済まない。特に広告審査の場面において、悪用を防ぐ仕組みをシステムレベルで設計する必要がある。」

被害者の苦境とMetaの「二重基準」

今回の調査で、被害を受けた少女とその保護者たちは、自分たちが知らぬ間にこれらの広告の「宣伝素材」にされていたと訴えた。ある被害少女の母親は苦しそうにこう語った。「娘の写真がこんな悪質なツールの販売に使われているのに、私たちには何もできない。プラットフォームは最初の段階でこうした事態を防ぐべきだった。」

注目すべきは、MetaがAIコンテンツに対して全く規制措置を講じてこなかったわけではない点だ――例えば、広告主に対してAI生成の政治家画像の使用を開示するよう義務付けている。しかし女性や子どもの権利保護が問われる場面では、プラットフォームの対応速度と執行力は著しく低下する。Metaの信頼・安全チームの元メンバーであるSophie Zhangは、この差異は偶然ではなく、広告収益との関係があると指摘する。「こうした違反広告は相当なクリック数をもたらし、AIアルゴリズムによる推薦も相まって、人力による審査だけでは到底追いつかない。」

業界への問い直し：AIの倫理は「受動的対応」だけでは足りない

この問題は、AI技術の倫理をめぐる業界の幅広い議論を再び巻き起こした。AI研究機関「アルゴリズム公正連盟（Algorithmic Justice League）」は、画像生成モデルが前例のない創造的能力を提供する一方で、ジェンダーに基づく暴力や性的恐喝のために組織的に兵器化されていると指摘する。プラットフォームは問題が深刻化してから対応措置を取るのではなく、モデルの展開や広告の登録前に十分なリスク評価を完了させるべきだ。

本稿の執筆時点で、Metaの広報担当者は書面による声明で次のように述べた。「こうしたコンテンツは明らかに当社のポリシーに違反しており、これらの違反広告に対抗するための検出・審査リソースをさらに拡充していく。」しかし批判派は、Metaが過去と同様の「先に出てから削除」という対応パターンを繰り返すだけでは、問題は根本的に解決しないと指摘する。AI技術が日々急速に進化するこの時代、テクノロジー大企業は自社の市場的地位にふさわしい倫理的責任を担う必要がある。

本記事はArs Technicaを基に編集・翻訳したものです。