MetaのAI生成児童性的虐待画像を含む広告、50件以上が配信されていたことが判明

WIREDの報道によると、Metaの広告ライブラリのデータから衝撃的な実態が明らかになった。AI生成の児童性的虐待画像を含む広告が50件以上、Facebook・Instagram・Messenger・Threadsにおいて公開配信されており、一部の広告は今週も引き続き配信されていたという。この事件はMetaのコンテンツ審査体制の欠陥を浮き彫りにするとともに、AI技術の悪用という深刻な現実を改めて公衆の前に突きつけるものとなっている。

経緯：広告ライブラリに潜む違法コンテンツ

WIREDはMetaの公開広告ライブラリを調査した結果、これらの違反広告が画像および動画の形式で存在し、AI生成の児童性的虐待素材を明らかに含んでいることを確認した。広告ライブラリはMetaが広告の透明性確保義務を果たすために設けた公開ツールであるが、今やプラットフォームの審査機能の破綻を外部から確認できる窓口となってしまっている。さらに深刻なのは、これらの広告がダークウェブに隠れていたわけではなく、正規の広告配信システムを通じて世界中の膨大なユーザーに届いていた点だ。

集計によれば、これらの違反広告の配信期間は相当長く、数カ月前まで遡れるものもあり、多くの広告が今週まで拡散され続けていた。これは、Metaの自動審査システムがかなりの期間にわたってこれらの違法コンテンツを検知できなかったことを意味する。

AI生成CSAM：規制と審査における二重の困難

児童性的虐待素材（CSAM）は、インターネットプラットフォームが最優先で排除すべき対象とされてきた。従来、プラットフォームはPhotoDNAなどのハッシュマッチング技術を用いて既知の違法画像を検知してきた。しかし生成AIはそのルールを根本から変えてしまった。AIは現実には存在しない児童性的虐待シーンを大量かつ高度にリアルに生成できるため、新たに生成されたコンテンツは既存のデータベースとマッチングできず、現行の検知システムを容易にすり抜けてしまう。

さらに懸念されるのは、こうしたAIモデルへのアクセスハードルが極めて低いことだ。オープンソースコミュニティにはフィルタリング未適用の画像生成モデルが多数存在し、一部の悪意ある者は違法コンテンツ生成に特化したカスタムモデルさえ開発している。以前、スタンフォード大学インターネット観測所はAI生成のCSAMが指数関数的に増加しており、法執行機関やプラットフォームの審査チームに大きな課題をもたらしていると警告していた。今回のMetaの事件は、こうしたマクロレベルの危機が表面化した氷山の一角に過ぎない。

編集後記：技術そのものに善悪はないが、制御を失った技術は必ず惨禍をもたらす。AI生成の違法コンテンツはSFの話ではなく、現在進行形の現実だ。プラットフォームが技術競争において悪用者を上回ることができなければ、犯罪の温床を提供するも同然である。

Metaの対応とプラットフォームの責任

本稿執筆時点で、MetaはWIREDの報道に対して完全な回答を行っていない。ただし業界の慣例に従えば、このような事態が発生した後、Metaは通常、違反コンテンツを即時削除し、関連する広告アカウントを停止する対応をとる。しかし、こうした「モグラ叩き」式の対応で十分といえるのだろうか。広告ライブラリのデータが示すように、一部の違反広告は数カ月前から今週まで配信され続けており、Metaの自動審査システムが数週間から数カ月にわたってこれらの明白な違法コンテンツを検知できなかったことを意味する。

実際、Metaはコンテンツ審査に多大なリソースを投じており、数万人の審査員と高度なAIモデルを擁していると称している。しかし広告システムの自動配信メカニズムは別次元の問題だ。広告主は変形画像の使用、広告文の調整、さらには対象オーディエンスごとのわずかなピクセル単位の改変など、様々な手法で検知を逃れることができる。AI生成コンテンツは従来の検知手段の有効性をさらに低下させ、人間の審査員が膨大な広告フローをタイムリーに処理することを困難にしている。

業界全体が抱える問題

これはMetaだけの問題ではない。テクノロジー業界全体がAI生成の違法コンテンツへの対応に苦慮している。OpenAIやGoogleなどの企業はAIツールを非合意の親密な画像や児童性的虐待素材の生成に使用することを禁じる安全ポリシーを相次いで更新しているが、オープンソースモデルの広範な普及によって、こうした禁止措置の実効性は大きく損なわれている。また法執行機関も、証拠収集や性質の認定において困難に直面している。アルゴリズムによって完全に生成された画像の中の児童は、法的意味における「実際の被害者」に該当するのかという法的空白について、立法者による早急な明確化が求められている。

今回の事件はテクノロジー企業に警鐘を鳴らすものだ。AI技術は犯罪の共犯者であってはならない。プラットフォームは広告審査プロセスを抜本的に見直し、AI生成コンテンツの検知能力を新たな水準に引き上げる必要がある。より高度なディープフェイク検知技術の採用、より厳格な広告主の実名制の確立、そして法執行機関との不審情報の積極的な共有こそが、今後進むべき道かもしれない。そうでなければ、同様のスキャンダルはますます増え続けるばかりだ。

本稿はWIREDの記事を編訳したものです。