Meta Museでプライバシー脆弱性が発覚：1回の検索で数千件の会話が流出

編集注：AIアシスタントが日常業務に深く浸透するにつれ、会話にはプロジェクト計画、顧客情報、コードスニペット、さらには商談の詳細まで含まれるようになっている。今回のMeta Museの問題は、共有機能の設計に少しでも不備があれば、非公開の会話が公開インデックスに収録されてしまう危険性を改めて示している。

1回の検索で、数千件の会話が浮かび上がる

Ars Technicaの報道によると、MetaのAI製品「Muse」には、ユーザーが会話を共有する際に深刻なプライバシー上の欠陥が存在する。ユーザーが1回の検索クエリを実行するだけで、タイトル付きで列挙された数千件もの会話記録を発見できる状態になっていた。つまり、本来は特定のユーザー間でのみ共有されるはずのコンテンツが、共有機能の設計上の問題によって検索可能な公開範囲に入り込んでいる可能性がある。

"A single query is all that's required to find thousands of conversations listed by title."——Ars Technica

報道によれば、これらの会話には個人のプライバシーに関する情報だけでなく、企業の機密情報が含まれている可能性もある。会話のタイトルは議題を要約していることが多く、「Q4予算計画」「顧客契約条項」「製品ロードマップ」などの例が挙げられている。タイトルだけで、攻撃者が高価値なターゲットを特定できてしまう。

なぜ共有機能が情報漏洩の経路になったのか？

AIの会話共有機能では通常、ユーザーがリンクを生成して同僚や友人に会話内容を送れるようになっている。問題は、プラットフォームが共有コンテンツを検索可能なインデックスに収録し、かつアクセス権限の厳密な検証を行わない場合、検索方法を知っている者なら誰でもこれらの会話を発見できてしまうことにある。今回の事件では、タイトルの一覧表示が情報漏洩の入り口となっており、プラットフォームが共有コンテンツの可視性制御において欠陥を抱えていることを示している。

さらに警戒すべきは、AIの会話には文脈情報が自然と含まれる点だ。ユーザーは会話の中に機密情報が混入していないかを逐一確認しない場合が多く、共有操作はワンクリックで完了してしまうことも多い。プラットフォームがデフォルトで共有コンテンツを「発見可能」な状態に設定していれば、誤操作の影響は大幅に拡大する。

AIの会話が機密データの新たな媒体になっている

生成AIが企業の現場に普及するにつれ、従業員は会議の議事録、法律文書、財務データ、さらにはソースコードをAIアシスタントに貼り付けて処理させることが当たり前になりつつある。そのため、AI会話の記録は高い価値を持つデータの集合体となっている。一括で検索・取得されれば、攻撃者は企業内部の情報を組み合わせて、標的型フィッシングや産業スパイ活動に利用することさえ可能となる。

業界ではこれまでも同様の問題が繰り返し発生している。チャットボットの会話が検索エンジンにインデックス登録される、AI学習データがユーザーのプライバシーを漏洩する、共有リンクがブルートフォースで列挙されるといった事例が挙げられる。Meta Museの事件は孤立したケースではなく、AIプロダクトの急速なイテレーションの中でプライバシー設計が後手に回っていることを示すまた一つの事例に過ぎない。

プラットフォームの責任とユーザーの防御策

Metaとしては、共有コンテンツのインデックス登録とアクセス制御のロジックを速やかに修正するとともに、すでに公開されている会話の削除に対応する必要がある。デフォルト設定は「最小公開」の原則に従うべきだ。共有リンクは検索エンジンにインデックス登録されるべきではなく、アクセスには本人確認を要求し、タイトルおよびコンテンツはマスキング処理に対応すべきである。

ユーザーとしては、AIの会話を共有する前に氏名・メールアドレス・契約番号・APIキーなどの機密情報が含まれていないかを確認し、業務上の会話は公開リンクでの共有をできる限り避けるべきだ。また企業は、AIアシスタントをデータセキュリティ戦略に組み込み、機密情報の入力を制限するとともに、共有記録を定期的に監査すべきである。

編集注：技術革新はプライバシーの犠牲の上に成り立つべきではない。Meta Museの教訓は、共有機能がコラボレーションの効率を高める一方で、アクセス制御・デフォルトの非公開設定・ユーザーへの注意喚起をデフォルトの動作フローに組み込まなければならないことを示している。そうでなければ、たった1回の検索によって数千件もの非公開会話が白日の下にさらされかねない。

本稿はArs Technicaの記事を翻訳・編集したものである。