Gemini Sparkを実体験：私の生活は見抜くのに、彼氏は透明人間扱い

Googleが新たなAIエージェントGemini Sparkの発表を行い、個人データを深く統合し、生活アシスタントレベルのサービスを提供できると約束したとき、私は興奮と不安が入り混じった気持ちだった。テック記者として、私はすぐにベータテスト権限を申請し、「最もあなたを理解する」と謳うこのAIに、私のデジタル生活――メール、クラウドドキュメント、カレンダーの予定、果ては位置情報の履歴まで――を全面的に委ねる準備をした。私が設定した最初のタスクもかなりプライベートなものだった：間もなく迎える30歳の誕生日に向けたサプライズパーティーの企画である。

AIが企画したパーティー：精確だが冷たい

Gemini Sparkの動作効率には驚かされた。過去3年間のメールのやり取りを素早くスキャンし、私が頻繁に言及するレストランやよく連絡を取り合うコミュニティの友人を識別し、さらにカレンダー上の空き時間に基づいて、何人かの友人の出張日を自動的に除外した。装飾テーマ（私が以前検索した「ミニマルなマカロンカラー」に基づく）、音楽プレイリスト（Spotifyの履歴に基づく）、おすすめ料理（メールボックスにあった忘れられたメニューPDFから抽出）まで含む完璧なプランを生成した。すべてが実に「インテリジェント」に見えた――招待客リストを確認するまでは。

リストは行き届いていた：両親、二人の親友、大学のルームメイト、ジムのトレーナー、半年会っていない従姉まで含まれていた。しかし、たった一人だけ欠けていた人物がいた――私の彼氏、マークだ。私たちはすでに1年同棲しており、彼は私のドキュメントの「緊急連絡先」のデフォルト設定であり、私のカレンダーには「Movie night with Mark」というイベントが大量に記されている。そして私たちの写真ファイルはクラウドの100GBを占めている。Gemini Sparkにデータが不足していたわけでは決してない。ただ、社交階層における「彼氏」という概念の優先度を理解していなかったのだ。

「AIは語彙の出現頻度やインタラクションのパターンを分析できますが、『彼があなたの伴侶である』という感情的な重みは感じ取れません」――テック倫理研究者リンダ・ワン

「Friend-Zoned」の裏にあるアルゴリズムの論理

この現象は偶発的なものではない。Googleのエンジニアも内部テストで、Gemini Sparkが親密な関係を処理する際にシステム的なバイアスがあることを発見した：共有カレンダーのイベント頻度が最も高い連絡先を「仕事仲間」と判定し、深夜の通話時間が最も長い相手を「ケアが必要かもしれない親族・友人」とマークするが、「パートナー」というメタタグが存在しないのである。私の彼氏は、ちょうど「誕生日パーティー」関連のメールに登場していなかった（サプライズパーティーは秘密にする必要があったため）ので、アルゴリズムの視点からは完全に透明人間と化していた。

これは現在のAIエージェントの致命的な弱点を露呈している：構造化データ（時間、場所、頻度）の処理は得意だが、人間のような感情知能を持たず、「重要な人」が特定のタスクのコンテキストに頻繁に登場する必要がないことを理解できない。あなたは毎日彼氏に「私のパーティーに来てね」というメールを送る必要はない――それはまさに彼があなたの生活そのものだからだ。

今回の体験はプライバシーに関するより深い思考も引き起こした。テストのために、私はGemini Sparkに本機のすべてのドキュメントを読み取る権限を与えた。私の個人的な日記の一部の断片を含めてである。Googleはデータがローカル推論（Google's on-device AI）にのみ使用されると主張しているが、あなたの彼氏の存在を感知できるAIは、同時にあなたのすべての脆さを感知できる。私たちは、AIにこれらを知らせる準備ができているだろうか？

編集者注：インテリジェントであることは、理解していることではない

Gemini Sparkの失敗は技術的な失敗ではない。むしろ逆に、データマイニングにおいては完璧なパフォーマンスを見せた。しかし真の「理解」は、モデルがシグナルを収集するだけでなく、シグナルの意味を理解することを要求する。現在の大規模言語モデルは会話を模倣することができるようになったが、「人間関係を感知する」のはより高次の能力である――それはモデルが社会常識、文化的背景、そして感情的推論を備えることを必要とする。Googleにはまだ長い道のりがあるのは明らかだ。

おそらく、誕生日パーティーで私がマークに言ったように：「AIは私がマカロンを好きなことを知っているけど、あなたが作るサラダが私の大好物だってことを知っているのは、あなただけよ」。テクノロジーが人間に代わって関係を取り仕切ろうとするとき、それはまず人間のように愛を識別することを学ばなければならない。

本記事はWIREDから編訳