MetaがAIディープフェイクによる女性政治家の偽裸体画像生成アプリの広告を掲載

近日、MetaはAIディープフェイクコンテンツに関する審査の不備により、再び世論の批判にさらされている。Ars Technicaの報道によると、Metaの傘下プラットフォームが「脱衣」アプリを宣伝する広告を掲載していたことが明らかになった。このアプリの核心的な機能は、人工知能技術を用いて通常の写真に写る女性の衣服を「除去」するものであり、特に女性政治家を対象とした偽の裸体画像を生成する。さらに衝撃的なことに、広告の一つには米国の女性政治家に酷似した人物が登場するディープフェイクポルノ動画が添付されていた。

事件の経緯：広告はいかにして審査をすり抜けたか

報道によれば、これらの広告はMetaの複数のプラットフォームで運用され、この種の「偽造ツール」に関心を持つ潜在的ユーザーを明確に標的としていた。広告のコピーは通常、その問題的な性質をぼかし、「ワンクリック除去」「AI画像編集」といった曖昧な表現を使用していたが、実際に生成される画像は極めて露骨なものだった。一部の広告には動画コンテンツも埋め込まれており、動的な映像でクリックを誘導していた。こうした広告が出現したという事実は、Metaの既存の広告審査システムがディープフェイクに基づく違反コンテンツを効果的に識別・遮断できていなかったことを意味する。

注目すべきは、Metaに関連するルールが存在しないわけではないという点だ。同社のポリシーは「同意なき合成ポルノコンテンツ」および非自発的なディープフェイクを明確に禁止している。しかし明らかに、広告掲載の段階でルールの執行に穴が生じていた。研究者らは広く、広告審査ツールはテキスト中の明示的な問題キーワードを識別することには長けているが、画像や動画のセマンティックな内容を十分に判断することは難しいと指摘している。

ディープフェイクの悪用：女性政治家が最大の標的に

この種のアプリの登場は、孤立したグレー産業ではない。近年、生成AIの普及に伴い、非自発的なディープフェイクコンテンツは爆発的に増加している。複数の国際研究機関のデータによると、ネット上に流通するディープフェイク動画の9割以上が女性を対象とするものであり、その大部分はポルノコンテンツだ。女性政治家、ジャーナリスト、公人は画像素材がより公開されているため、攻撃や嫌がらせの標的になりやすい。

「これはプライバシーの問題にとどまらず、デジタル暴力の一形態です。女性を辱め、その信頼性を傷つけ、さらには公的領域から追い出すために使われています。」——非自発的ディープフェイク問題を研究するある学者の言葉。

実際、「脱衣」アプリで生成された偽の裸体画像は、低コストな嫌がらせツールと化している。ユーザーはSNSの写真一枚があれば、本物と見紛う裸体画像を作り出すことができる。こうしたコンテンツがいったん拡散すると、被害者が完全に削除することは極めて困難であり、釈明と法的対応には甚大な労力を要する。

プラットフォームの責任と商業的動機の衝突

Metaの広告事業は同社の中核的な収益源であり、広告審査メカニズムの厳密さは直接的にプラットフォームの商業効率に影響する。しかし今回の事件は、商業的利益とコンテンツの安全性が衝突した際、防衛線が必ずしも盤石ではないことを示した。広告主がトラフィックを購入し、プラットフォームが収益を得る一方で、アルゴリズムによる配信が違反コンテンツのリーチをさらに増幅させる可能性がある。

近年、欧米の規制当局はディープフェイクコンテンツへの審査と立法を強化している。米国の複数の州が、非自発的なディープフェイクの製造・拡散を刑事犯罪とする法案を可決しており、EUの「AI法」も生成AIに対して透明性の要件を課している。しかし法律はしばしば技術の進歩に遅れる。今回の事件に関して言えば、広告審査における技術的な穴を塞ぐには、より体系的な解決策——例えば学習データや配信モデルへの専門的な最適化、あるいはより厳格な広告主の認証プロセスの確立——が明らかに必要だ。

編集後記：技術ツールには倫理的な一線が必要だ

あらゆる技術には二面性がある。かつての「写真加工」は今日、ほぼ見分けのつかないディープフェイクへと変貌した。コンテンツ配信の重要な節点であるプラットフォームは、「技術的中立性」を盾に責任を回避することはできない。Metaは速やかに広告審査の欠陥を補い、関連するアプリに対して断固たる措置を取るべきだ。同時に、ユーザーも「目に見えるものが必ずしも真実ではない」という警戒心を育む必要があり、社会もまた法律と教育を通じて、AIの倫理に明確な一線を引かなければならない。

現時点でMetaはこの件に関して公式な回答を発表していないが、世論が高まるにつれ、これが単純な内部改善にとどまらないことは容易に予見される。AIが加速度的に進化する今日、個人のデジタルの尊厳を守ることは、犠牲にされてはならない。

本稿はArs Technicaをもとに編集・翻訳したものです。