Twitchユーザーのコンテンツが長年にわたりAmazonのAIトレーニングに使用されていた――オプトアウト機能が追加

近日、ストリーミングプラットフォームのTwitchは通知の中で、ユーザー生成コンテンツが「将来の生成AIモデルの改善に使用される可能性がある」と明らかにした。この表現は、ライブ配信プラットフォームのコンテンツとAmazonのAIトレーニングとの直接的な関係を、初めて公式に認めたものだ。

Amazon傘下のTwitchは、2014年に買収されて以来、AmazonのAIエコシステムと密接に結びついてきた。AlexaのインタラクションデータからRekognitionによるAI画像認識に至るまで、Amazonは大規模かつマルチモーダルなデータプールを保有してきた。Twitchが毎日生み出す膨大なライブ配信映像、チャット、音声などは、生成AIモデルのトレーニングに必要な「豊かな鉱脈」そのものだ。一部の論者は、Twitchのコンテンツは実質的に長年にわたって密かにAmazonのAIをトレーニングしてきており、今になってようやく正式に公表されたに過ぎないと指摘している。

ユーザーコンテンツはどのようにAIの糧となるのか

Twitch上のユーザー生成コンテンツ（UGC）には、配信者のリアルタイムの映像・音声・動作、および視聴者のパブリックチャット、絵文字、報酬イベントなどが含まれる。こうした膨大なデータは、AIモデルが自然な会話、集団的な感情表現、シーン認識、さらにはゲーム戦略を学習するのに役立つ。たとえば、数万時間にわたるゲーム配信を分析することで、AIは配信者の話し方のスタイルを模倣できるようになり、チャットログを解析することで、インタラクティブな文脈におけるユーザーの意図を理解できるようになる。このようなデータは、昨今普及しているAIコンパニオン、バーチャル配信者アシスタント、リアルタイム音声翻訳ツールなどの改善に非常に高い価値を持つ。

しかし、多くのユーザーや配信者は、長年Twitchを利用する中で、自分の映像や言葉がAIトレーニングデータセットに組み込まれることに気づいていなかった。Twitchが最近プライバシーポリシーを更新し、「生成AIの改善への利用」を文書に明記したうえ、新たに「オプトアウト」の選択肢を追加して初めて、こうしたデータの流れが一般に知られるようになった。

オプトアウト機能：有用だが限定的

Ars Technicaの報道によると、Twitchユーザーは設定から「自分のコンテンツをAIトレーニングに使用する」というオプションをオフにできるようになった。しかし、このオプトアウト機能には明らかな限界がある。まず、オプトアウトは将来のモデル改善にのみ有効であり、過去数年にわたってAmazonのトレーニングパイプラインにすでに取り込まれたデータを削除することはできない。次に、このオプションをオフにすると、AIベースのパーソナライズされたレコメンドや検索機能に影響が出る可能性があり、ユーザー体験が低下することもあるため、ユーザーがこの権利を何の代償もなく行使できるとは限らない。

Twitchの声明によると、ユーザー生成コンテンツは「将来の生成AIモデルの改善に使用される可能性がある」（原文英語表記："may be used for future Gen AI model improvements."）とされているが、オプトアウトの仕組みと範囲については、さらなる詳細が必要だ。

さらに懸念されるのは、たとえユーザーがオプトアウトを選択したとしても、AIモデルはすでにそのユーザーのデータパターンや特徴を「記憶」している点だ。生成AIにおいてモデルはデータをパラメータとして抽象化するものであり、元データの複製を保持しているわけではない。これが「削除権」の行使に根本的な障壁をもたらしている。これは現在、各国の規制や法律においても未解決のままとなっている技術的難題であり、AIのトレーニングデータを完全に削除・修正することができないという問題でもある。

業界における争いの縮図

TwitchとAmazonの関係は、AIとUGCプラットフォームの共生関係の典型例に過ぎない。世界的に見ると、2023年から2025年にかけて、RedditはGoogleおよびOpenAIと相次いでデータライセンス契約を締結し、Stack Overflowも大規模モデルに対してコーパスを開放した。一方で、多くの作家、画家、アーティストはStability AIやMidjourneyなどの企業に対して集団訴訟を起こし、無断で自らの作品をモデルのトレーニングに使用したことに抗議している。データの供給側とAI開発者との間の対立は激化しており、プラットフォームとユーザーの間の信頼関係もあらためて問い直されている。

透明性こそが、これらすべての問題における核心だ。プラットフォームがユーザーのコンテンツアップロード時にその用途を明確に告知し、オプトアウトの影響についてわかりやすく説明すれば、ユーザーは真に informed な選択ができるようになる。そうでなければ、単純な「同意」や「オプトアウト」は、形式的な安心感を与えるだけに終わってしまう。

編集後記：AIトレーニングにおけるユーザーの権利をあいまいにしてはならない

私たちはTwitchがオプトアウトの選択肢を提供したことを歓迎する。これはユーザーに対して誠実に向き合う姿勢の表れだが、さらなる取り組みを期待したい。ユーザー生成コンテンツの価値はAI企業によって密かに利用されてきたにもかかわらず、ユーザー自身はそれに見合った恩恵を受けていない。将来的には収益分配の仕組みが生まれるかもしれないし、あるいはAI企業にトレーニングデータの出所をより詳細に開示することを義務付ける規制が設けられるかもしれない。いずれにせよ、ユーザーが自分のデータに対して権利を持つという原則は、デジタル時代においても断固として守られるべきだ。

現状では、Twitchのオプトアウト機能はほんの一歩を踏み出したに過ぎず、真に公平で透明なAIデータエコシステムの実現にはまだ遠い道のりが残っている。データとAIが相互に浸透するこの時代を生きるすべてのユーザーにとって、これは一つの注意喚起であり、警告でもある。私たちはもっと頻繁に問い続ける必要がある——自分のデータは、一体どこへ行くのか？

本記事はArs Technicaからの翻訳・編集です。