FBI捜査官：AIポルノアカウントの追跡はこんなにも簡単

人工知能技術が急速に発展する今日、AI生成コンテンツの境界線問題がますます顕在化している。先日、米連邦捜査局（FBI）の捜査官が法廷証言で、Instagramに保存された「ぞっとするような」投稿1つだけを手がかりに、同意なきAIポルノ動画の制作・拡散の疑いがある男を特定した経緯を詳しく説明した。この事件は、法執行機関のネット犯罪追跡能力を示すだけでなく、AIの悪用とデジタルプライバシーに関する世論の議論を広く呼び起こしている。

事件振り返り：お気に入りに眠っていた秘密

Ars Technicaの報道によると、FBI捜査官はAIポルノに関する事件を調査する中で、容疑者がSNSプラットフォームを通じて他人の顔を合成した偽のポルノコンテンツを投稿していることを発見した。調査の鍵となる手がかりは、容疑者のInstagramアカウントに保存されていたある投稿に由来する——その投稿自体は一見無害に見えたが、含まれていたメタデータと関連情報により、調査員は迅速に容疑者の本当の身元を特定することができた。捜査官は、こうした「デジタル足跡」はほぼ完全に消し去ることは不可能で、特にユーザーが複数のプラットフォームにログインしている場合、アカウント間の関連性によって身元が容易に露呈してしまう、と指摘した。

「SNS上に何らかの痕跡を残せば、たとえそれがお気に入り1つであっても、我々はそれを辿ってあなたを見つけ出すことができる。」——FBIサイバー犯罪調査班捜査官

AIポルノ：技術の利便性と法律の遅れ

生成AI技術の普及に伴い、Deepfake（ディープフェイク）のようなツールにより、一般人でも本物と見分けがつかないほどのポルノコンテンツを簡単に制作できるようになった。しかし、多くの被害者は全く知らない間に「顔を入れ替えられて」おり、こうした同意なき創作行為は個人の肖像権とプライバシー権を著しく侵害している。現在、米国の多くの州ではAI合成ポルノに対する専門の法律がなく、法執行機関は従来のネット犯罪関連法規（他人の身元の無断使用、嫌がらせなど）に頼って起訴するしかない。本件では容疑者は最高10年の禁錮刑に直面しているが、弁護側は鑑定基準に異議を唱えている——AI生成コンテンツが「同意なき」ものであることをどう証明するのか？これが法廷論争の核心となっている。

編集後記：テクノロジーの目、誰もが危うい

FBI捜査官が容易に事件を解決した事例は、一見正義の勝利のように見えるが、実はデジタル時代における誰もが直面するプライバシー危機の縮図である。一方では、法執行機関が公開データを用いて違法者を追跡し、被害者のために正義を実現している。しかし他方では、このような「ネット読み取り」能力が悪用されれば、その結果は同様に恐ろしいものとなる。さらに警戒すべきは、AIポルノコンテンツの制作ハードルは極めて低く、被害者の権利保護コストは極めて高いことだ。おそらく、事後の追跡に頼るよりも、技術開発の段階で倫理的なファイアウォールを組み込むべきだろう——例えば、AIモデルに合成顔への不可逆な透かしマーキングを義務付けるなどである。結局のところ、「あなたを見つけ出す」ことがこれほど簡単になった今、私たち一人ひとりが考えるべきだ：誰が誰を見ているのか？

事件はまだ審理中だが、すでにテクノロジー企業と立法者に警鐘を鳴らしている。Meta（Instagramの親会社）はAIコンテンツ検出を強化し、法執行機関にデータ提供で協力すると表明した。しかし、技術と法律の競争において、一般ユーザーは永遠の敗者となる可能性がある。

本記事はArs Technicaから編訳