MetaのMuse：ユーザーを支援するより監視する方が得意

Metaが最近リリースしたMuseアプリは、本来ユーザーの生産性向上やインスピレーション喚起を助けるAIアシスタントとして設計されたものだ。しかしWIREDの記者Reece Rogersの実際の体験では、この製品はまるで巧みに偽装された監視装置のようだという。データの収集には熱心な一方、ユーザーを本当に「支援する」ことにはほとんど関心を示さないのだ。

デフォルトで同意済み：またしても「させられた」データ収集

MuseはMetaお馴染みの製品ロジックを踏襲している。ユーザーをデフォルトでAIトレーニングデータの収集対象に含めるというものだ。アプリをインストールして画面をいくつかスワイプするだけで、気づかないうちに自分の会話、好み、さらには生活の詳細をMetaのモデルトレーニングパイプラインに提供することを承認してしまっている可能性がある。この「デフォルトで参加、手動で離脱」（opt-inではなくopt-out）という設計は、すでにMetaの定番の手口となっている。Facebook時代のプライバシー設定から、Instagramのコンテンツ承諾、そして現在のMeta AIのトレーニング規約に至るまで、ユーザーは常にデフォルトで「同意済み」とみなされる。離脱したければ、幾重にも重なった設定メニューを自分で探し回らなければならず、ほとんどの人はスイッチを見つける前に諦めてしまう。

ますます「踏み込んだ」情報の要求

さらに懸念されるのは、Museが基本的な行動データで満足しないことだ。「パーソナライズされた体験」や「より精度の高いサービス」を名目に、銀行口座やメールアドレス、さらにはパスポート情報のアップロードまでユーザーを巧みに誘導する。メール作成やスケジュール整理を支援するはずのAIアシスタントにとって、パスポートの写真や銀行口座番号が「サポート」とどう結びつくのか、説明がつかない。これらのデータが一度Metaのエコシステムに入れば、その用途、保存期間、共有範囲は一般ユーザーにとってほぼブラックボックスに等しい。

「Museは私を助けるよりも、私を監視する方が得意だ」――これはまさに元記事の著者が直感的に感じたことであり、現在のAI製品に対して多くの人が共通して抱く疑念でもある。

業界背景：AI競争における「データ渇望」

Museの誕生は孤立した出来事ではない。OpenAI、Google、Anthropicなどのライバルに挟まれ、MetaはいまGenerative AIの波を懸命に追いかけており、高品質で多様なデータがこの競争の燃料となっている。公開されたインターネット上のテキストデータが枯渇しつつある中、テック大手は次々とファーストパーティデータに目を向けている。つまり、自社製品の中でユーザーが生み出すリアルで、プライベートで、身元属性を持つ情報だ。Metaにとって、数十億のユーザーそのものがデータの金鉱であり、AIはその採掘を「正当化」し、より効率的にするための口実に過ぎない。

問題は、ビジネスモデルの本質が製品の優先順位を決めてしまうことだ。Metaのコア収益は広告から来ており、広告の精度はユーザーへの深い理解に依存する。ターゲティング広告で成り立つ企業がAIアシスタントを提供するとき、「ユーザーを支援する」と「ユーザーからデータを収集する」の境界線は必然的に曖昧になる。Museに個人的な用件を頼めば頼むほど、Museはあなたのことをより深く知り、あなたを販売可能なデータプロファイルに変換する精度が上がっていく。

編集後記：利便性の代償を直視すべき

AIアシスタントがもたらす利便性を否定するつもりはない。本当に警戒すべきなのは、監視をサービスとして包み込んだデフォルト設定だ。ユーザーは明確に知る権利がある。どのデータが収集されるのか、何のために使われるのか、どれだけの期間保存されるのか、削除できるのか。それらはユーザー規約の第90条に隠されるべきではなく、「体験向上」という常套句でさらっと流されるべきでもない。

より広い視点で見れば、Muse問題は業界全体の信頼赤字を映し出している。AIプロダクトが私たちの生活にますます深く入り込む中、データの境界線を誰が引くのか。規制の遅れ、ユーザー規約の不透明さ、そして「まず収集して後から説明する」という業界の慣性が、AIへの信頼を絶えず侵食している。技術はアップデートできても、一度崩れた信頼を取り戻すのは容易ではない。

次に広告会社が作ったAIアプリをダウンロードする前に、こう問いかけてみてほしい。これは自分を助けたいのか、それとも自分を見張りたいのか。Museが示した答えは、決して安心できるものではないだろう。

本記事はWIREDより編訳