AI生成の児童性的虐待素材を制作——ニュージャージー州副検事総長が逮捕

編集注：生成AIが「想像」を「ピクセル」に変えてしまう時代において、制作者の社会的立場はガードレールにはなり得ない。Discordへの通報をきっかけに明らかになったこの事件は、「AI合成児童性的虐待素材（AI CSAM）」を再び法律とテクノロジーの交差点に引き戻した――そして今回、被告席に立つのは、本来であれば法執行を担うべき人物だった。

一件の通報が、ある検察官の二重の顔を暴いた

Ars TechnicaのライターAshley Belangerの報道によれば、ニュージャージー州の副検事総長（deputy attorney general）が、AI生成の児童性的虐待素材を制作した疑いで逮捕された。事件の発端は潜入捜査ではなく、Discordの一般ユーザーによる通報だった。「thegentlemanpervert」というアカウントが同プラットフォーム上でAI生成とみられる児童性的虐待画像を継続的に投稿しており、これがプラットフォームと捜査機関の連鎖反応を引き起こした。

報道によると、捜査当局はその後、当該アカウントをニュージャージー州司法長官室に勤務する検察官と結びつけた。この身分の落差こそが、本件で最も衝撃的な点だ――サイバー犯罪の起訴を日常業務とする人物が、陰で同種のコンテンツを制作していたとして訴追されたのである。現在、事件は司法手続きに入っており、具体的な訴因、保釈状況、弁護方針などの詳細は引き続き明らかにされていない。

通報の連鎖——クリック一つから手錠へ

児童性的虐待素材の取り締まり体制において、一般ユーザーによる通報はしばしば連鎖全体の最初の一環を担う。Discordなどのプラットフォームにはコンテンツ審査と通報窓口が設けられており、ユーザーが不審なコンテンツをフラグ付けすると、プラットフォームの安全チームが初期判断を行い、要件を満たす場合は捜査機関や関連通報ホットラインに情報提供する。米国では、こうした情報は通常、米国行方不明・被虐待児童センター（NCMEC）が運営するCyberTiplineに集約され、そこから各州および連邦の法執行機関へと配分される。

問題は、この仕組みの中核技術——PhotoDNAに代表されるハッシュ照合——が一つの前提に基づいている点だ。すなわち、同一の違法画像がネット上で繰り返し拡散されるため、「指紋」による識別が可能だという前提である。しかしAI生成コンテンツはすべてが新規であり、一枚一枚が固有の存在であるため、ハッシュデータベースには記録が存在しない。技術的な観点からすると、AI CSAMはここ20年間で最も効果的だった自動遮断手段をほぼ生来的に回避してしまい、人手によるレビューやユーザー通報への依存度が高まるばかりだ。

換言すれば、今回の事件が表面化できたのは、おそらく何らかの自動化システムが機能したからではなく、誰かが「通報」をクリックすることを選んだからである。

法的難題——実在する被害者がいなくても犯罪は成立するか

AI CSAMが世界的な規制の灰色地帯となっている根本原因は、法律の伝統的な構造にある。米国連邦レベルで児童性的虐待素材を規制する中心的条文は長らく、「実在する未成年者」の撮影と頒布を軸に形成されてきた。2002年の米最高裁によるAshcroft対Free Speech Coalition事件の判決では、「未成年者のように見える仮想画像」を禁じる一部条項が過度に広範として違憲と判断され、純粋な合成コンテンツをめぐる論争の余地が生じた。

しかし、この状況は変わりつつある。近年、複数の州がAI生成または改ざんされた児童性的虐待コンテンツを明示的に刑事規制の対象とする立法を相次いで成立させ、連邦レベルでも合成コンテンツを対象とした立法の動きが出ている。また、同意なしのプライベート画像拡散に関する専門的立法（2025年に署名されたTAKE IT DOWN Actなど）はAI生成のディープフェイクコンテンツを規制の射程に含めており、立法者が「実在する被害者の存在」という従来の前提を段階的に放棄しつつあることを示している。

したがって、本件の真の注目点は個別事件そのものにとどまらず、検察がどの法律を援用するか、そして裁判所がAI生成画像の「児童性的虐待素材」としての性質をどのように認定するかにある。この判断は、今後の同種事件における重要な先例となり得る。

法執行者が被執行者となるとき

立場の逆転がもたらす衝撃は二重のものがある。一方では、法執行機関への公衆の信頼は「法執行者自身が法を守る」という前提に基づいており、この前提が崩れると、世論の疑念は個別事件から機関全体へと広がりやすい。他方、司法長官室は各州においてネット上の児童搾取事件を起訴する主要な力であり、内部関係者の関与が発覚すれば、回避措置、内部調査、手続きの強化といった一連の後続対応が不可避となる。

注目すべき点は、こうした事件が改めて示すように、AI生成コンテンツの制作ハードルがすでに専門的な技術的背景を必要としない水準まで低下していることだ。かつて、リアルな児童性的虐待画像の制作には実在の被害画像へのアクセスが必要だった。しかし今や、コンシューマー向けアカウント一つとプロンプト一文があれば、違法コンテンツを生成できてしまう可能性がある。利便性の向上は同時に、潜在的な行為者の裾野の拡大を意味する――その結果をよく知っているはずの人々をも含めて。

プラットフォーム・モデル・規制当局の三つ巴

AI CSAMをめぐる取り締まりには、現在少なくとも三つの並行するが互いに連携していない経路が存在する。第一はモデル層：主要な生成AIサービス事業者は利用規約において未成年者に関わるわいせつコンテンツの生成を広く禁止し、プロンプトフィルタリングと出力審査によって遮断しているが、オープンソースモデルとローカルデプロイはこれらのガードレールを回避する。第二はプラットフォーム層：ソーシャルメディアやインスタントメッセージングツールはコンテンツ審査の責任を担うが、AI生成コンテンツを自動識別できないという技術的ボトルネックに直面している。第三は法執行層：情報提供、国際共助、法律適用のいずれにも明らかな遅れがある。

この三者の間の隙間こそが、違法行為が生き延びる空間となっている。複数の子どもの安全を訴える擁護団体は近年、生成AI企業に対してより厳格なコンテンツ追跡・濫用検出の仕組みを構築し、不審な行為を発見した場合には能動的に報告するよう繰り返し求めている。しかし今回の事件を見る限り、この連鎖の中で最も有効に機能した一環は、依然として一人の一般ユーザーによる通報だった。

結語

この事件の技術的詳細はさほど複雑ではないかもしれないが、その象徴的意味は非常に重い。生成AIが違法コンテンツを「無から作り出す」ことを可能にした今、従来の技術的ガードレールと法的枠組みはいずれも時代遅れとなっている。サイバー犯罪の取り締まりを担う検察官が、この技術を用いて児童性的虐待素材を制作したと疑われるこの事件は、問題が技術そのものの高度さにあるのではなく、規制・審査・法的責任の境界線がいまだ真に確立されていないことにあると如実に示している。

法執行機関にとって、これは内部的な自省を迫る警告かもしれない。政策立案者にとっては、「AI合成コンテンツ」をもはや仮定的リスクとして扱えないことを示すまた一つの証拠だ。そして一般ユーザーにとっては、一度の通報が持つ意味は、想像以上に大きいかもしれない。

本稿はArs Technicaより編訳。