Hugging Faceでディープフェイク裸体画像が大量発覚、プラットフォーム監視に課題

先日、WIREDが調査報告を発表し、世界的に著名なオープンソースAIプラットフォームであるHugging Faceが深刻な問題に直面していることを指摘した。同プラットフォーム上でホストされている複数の画像編集モデルが、ディープフェイク裸体画像の生成に広く利用されているというものだ。研究者たちが1,000件の画像編集プロンプトを分析した結果、ユーザーが安全対策を容易に回避し、高度にリアルな非合意ディープフェイク裸体画像（non-consensual deepfake nudes）を生成できることが判明した。

技術的脆弱性とユーザーの行動

研究チームは、Hugging Face上で最も人気のある画像編集モデル（Stable Diffusionのファインチューニング版やLatent Consistency Modelなど）を選定してテストを実施した。その結果、これらのモデルはデフォルト設定では性的示唆や成人向けコンテンツに関連するプロンプトを十分にフィルタリングしていないことが明らかになった。一部のモデルに簡易的な安全フィルターが組み込まれている場合でも、ユーザーはキーワードの置き換え（例：「naked」を「undressed with realistic skin tone」に変更するなど）やネガティブプロンプトのテクニックを使って審査を回避できた。

「『水着姿の女性、衣服を除去して裸体を露出させる』と入力するだけで、10秒も経たないうちにほぼ判別不可能な裸体画像が生成できた」—— ある匿名の研究者

公開されている1,000件の画像編集プロンプトを意味論的に分析した結果、約12%のプロンプトが非合意の性的コンテンツ制作に直接関連しており、さらに23%は明示こそしていないものの性的な場面を示唆していることがわかった。これらのプロンプトの大部分は匿名ユーザーによるもので、投稿時期は直近6か月間に集中していた。

プラットフォームの責任と倫理的ジレンマ

Hugging Faceは世界最大級のオープンソースモデルホスティングコミュニティの一つとして、「AIの民主化」というビジョンを掲げてきた。しかし、ディープフェイク裸体画像の蔓延はこの理想に暗い影を落としている。DALL·EやMidjourneyといったクローズドソースプラットフォームがユーザーに強制的にログインさせ厳格なコンテンツ審査を実施できるのとは対照的に、Hugging Faceのオープン性はユーザーの行動を完全にコントロールすることを困難にしている。プラットフォームはサードパーティのモデルアップロードを許可している一方で、それらのモデルの実際の用途に対する直接的な管理能力を欠いている。

Hugging FaceのスポークスパーソンはWIREDの取材に対し、「規約違反のモデルとデータセットは削除済みであり、AIの審査プロセスを強化した。ただし、アップロードされたすべてのモデルが十分な安全審査を経ていることを保証することはできない」と回答した。この「先にアップロードして後から審査する」という仕組みは、急速に進化するAI分野において明らかに限界を露呈している。

編集後記：オープンソースAIのパンドラの箱

この一件は改めて、技術が価値を生み出す一方で、他者のプライバシーと尊厳を侵害するために悪用される可能性があることを示している。ディープフェイク裸体画像は単なる倫理問題にとどまらず、法的な一線にも関わる問題だ。すでに複数の国が非合意のディープフェイク性的コンテンツを禁じる法律を制定している。Hugging Faceのようなプラットフォームにとって、キーワードブロックや画像ハッシュ照合といった技術的なフィルタリングだけでは到底不十分であり、アップロード者の責任制度の整備、ユーザー通報チャンネルの確立、そして法執行機関との連携メカニズムの構築が不可欠だ。

より広い視点から見れば、画像編集モデルの高い利用可能性は「インフォームドコンセント」という社会的契約に挑戦している。誰でもコンピューターさえあれば数分でフェイク裸体画像を作成できる状況において、被害者は名誉の毀損にとどまらず、ネット上のハラスメント、恐喝、さらには深刻な精神的トラウマに晒されるリスクがある。AIコミュニティはこの現実を直視し、安全設計（Safety by Design）を事後対応ではなくモデルの事前学習段階から組み込むことが求められる。

最後に、ユーザー教育も欠かせない。プラットフォームは目立つ場所に、ディープフェイクコンテンツ生成の違法性と倫理的な害を明示し、通報を促すべきだ。オープンソースは無制限の免罪符となってはならない。

本記事はWIREDより編訳