MetaがAIにセクシートークを許可、OnlyFansクリエイターが怒る理由とは？

MetaのAIエージェント「Muse」がチャット上で臆面もなくフリーティングや卑猥な言葉を使う中、アダルトコンテンツで生計を立てるクリエイターたちは、制限されたソーシャルメディアアカウントを眺めながら、理不尽な怒りを感じている。WIREDの報道によると、複数のOnlyFansクリエイターが公然と疑問を呈している。なぜMetaは自社のAIエージェントに露骨な会話を許可しながら、リアルなクリエイターには厳しいアカウント制限を課すのか、と。

「誰がセクシートークをしていいのか」をめぐる二重基準論争

Metaは近年、AIキャラクター分野に多大な投資を行い、Instagram・WhatsApp・Messengerなどのプラットフォームで複数の個性を持つAIエージェントを展開してきた。Museはその一つだ。ユーザーはこれらのAIキャラクターと自由に会話でき、Museの会話スタイルはかなり大胆で、性的示唆や露骨なコンテンツに踏み込むこともあると指摘されている。一方、OnlyFansクリエイターはMetaのプラットフォームで別のルールに直面している。性的示唆を含むコンテンツを投稿したとして、アカウントのシャドウバン、警告、さらには凍結を繰り返し受けているのだ。

「彼らはAIに最も露骨な形で人とフリーティングさせておきながら、私がInstagramに露出の多い写真を投稿しただけでアカウントをロックした」と、匿名を希望するあるOnlyFansクリエイターはWIREDに語った。

このような格差は孤立した事例ではない。複数のアダルトコンテンツクリエイターは、Metaのコンテンツモデレーションシステムがリアルなクリエイターに対して非常に厳しく、アルゴリズムが性的示唆を含む画像・動画・テキストを素早く検出して制裁を加えると指摘する。たとえそのコンテンツがプラットフォームの明示的なルールに完全に準拠していてもだ。一方、AIエージェントMuseの会話の境界線は曖昧で緩く、ユーザーはMuseとのやり取りの中で性的な意味合いのある返答を容易に引き出せる。

AIキャラクターのコンテンツ境界：グレーゾーンか、意図的な放任か？

MetaはAIキャラクターのコンテンツポリシーについて、一貫して透明性を欠いてきた。同社はAIエージェントを「安全で有用」に設計し、不適切なコンテンツを防ぐ保護措置を講じていると述べてきた。しかし実際の使用体験では、Museなどのコンテンツの境界線は公式説明よりもはるかに緩い。ユーザーが共有したスクリーンショットには、Museが自ら性的示唆のある言葉を使い、特定の文脈では露骨なトピックに応じる様子が示されている。

MetaがAIコンテンツの境界をめぐって論争を引き起こしたのは、今回が初めてではない。2023年にはMetaのAIキャラクターが会話の中で不適切な発言をしたことが暴露された。その後、同社は一部の保護措置を強化したが、明らかに完全には塞がれていない。OnlyFansクリエイターにとって問題なのは、AIがセクシートークをすべきかどうかではなく、なぜプラットフォームがAIとリアルな人間に異なる基準を適用するのか、という点だ。

より深い矛盾は、MetaがAIサービスの提供者であると同時に、ソーシャルコンテンツの審判者でもあるという点にある。プラットフォーム自身が人格化されたAI製品をリリースする際、選手と審判の両方の役割を担うことになる。アダルトクリエイターが問題にしているのは、まさにこの構造的な不公平だ。プラットフォームはAIを使ってコンテンツの境界線を探ることができる一方、リアルなクリエイターは同じ表現に対してアカウントという代償を払わされる。

プラットフォームの権力とクリエイターの生計の衝突

多くのOnlyFansクリエイターにとって、InstagramやTwitterといったソーシャルメディアは集客のための生命線だ。アカウントが制限されることは、収入への直接的なダメージを意味する。あるクリエイターが試算したところ、2週間のシャドウバンにより、その月のサブスクリプション収入が約30%減少したという。しかもMetaの審査メカニズムは明確な説明を欠くことが多く、異議申し立てのプロセスは長く、成功率も低い。

その一方で、Metaは自社のAIエージェント機能を積極的に推進し、AIキャラクターを新たなユーザーインタラクションの入口として構築しようとしている。Museの「大胆な」会話スタイルは、ユーザーエンゲージメントを高めるために意図的に残されたデザインである可能性が高い。このような商業的論理と、アダルトクリエイターが厳しく管理されている現実との対比が、矛盾をさらに激化させている。

「もしプラットフォームが性的示唆を含むコンテンツはソーシャルメディアにふさわしくないと考えるなら、なぜAIはいいのか？AIがいいなら、なぜ私たちはダメなのか？」別のクリエイターの問い返しは、この論争の核心を突いている。

編集後記：二重基準の背後にあるプラットフォームガバナンスの深刻な困難

この論争は表面上「AIはセクシートークをしていいのか」という問題に見えるが、実質的にはプラットフォームのコンテンツガバナンスが長年抱える困難を露わにしている。Metaがリアルなクリエイターを厳しく管理するのは、一方では広告主からの圧力と規制上のコンプライアンスへの配慮であり、他方ではアダルトコンテンツに対する保守的な姿勢とも関係している。しかし自社がAI製品をリリースする際には、より大きな探索の余地を得ているように見える。

こうした二重基準は、アダルトクリエイターたちの利益を損なうだけでなく、プラットフォームのコンテンツポリシーへの信頼をも損なう。ルールがユーザーのみを縛り、プラットフォーム自身の製品を縛らないのであれば、いわゆる「コミュニティガイドライン」は選択的に執行されるツールへと成り下がる。Metaにとって、AIのイノベーションとコンテンツガバナンスの間に一貫した透明な基準を確立することは、避けては通れない課題となるだろう。OnlyFansクリエイターが求めているのは、実はシンプルなことだ。同じように緩くするか、同じように厳しくするか、そのどちらかだ。

本稿はWIREDを翻訳・編集したものです。