Apple Watchの新AI機能がプライバシー論争を呼ぶ――利便性か、それとも脅威か？

Apple社は月曜日の基調講演において、新しいApple Watchシリーズを発表し、「要約」と呼ばれる新たなAI機能を披露した。この機能は、Appleが継続的にAI分野へ進出する上での重要な突破口と見なせる一方、「テクノロジーはどこまでユーザーの会話を聴いてよいのか」という問いを投げかけている。Appleはスマートウォッチ製品ラインに「要約」機能を組み込み、WeChat、SMS、電話などのアプリからの通知内容を処理し、簡潔な要約返信を自動生成するとしている。さらに注目すべきは、このAIシステムが誇る「記録」機能だ。ユーザーの直近の音声をキャプチャしてテキストに書き起こし、会話の要約を自動生成することで、重要なポイントを見逃さないようにするという。

新たなプライバシーのジレンマ

Appleも、この機能がプライバシー論争を招くことを認識していないわけではない。同社の上級副社長クレイグ・フェデリギ（Craig Federighi）は事前収録のスピーチの中でこう述べた。「ご安心ください。これはすべてプライバシーを念頭に設計されています。すべての処理はニューラルエンジンによってデバイス上で完結し、元の音声録音は保存されません。データはローカルまたは暗号化されたiCloudにのみ保存されます。」それでも、このAIシステムがもたらす「常時聴取」という概念は、多くのユーザーやプライバシー擁護者を不安にさせている。「これは、デジタル世界においてユーザーが常時監視されるという状況のさらなるエスカレーションに他なりません。数分後にデバイスが自分の秘密を漏らさないと、本当に完全に信頼できますか？」と、デジタルプライバシー擁護者のキラ・バロー氏は記者に語った。

Appleは元の音声を保存しないと主張しているが、この新機能が提起するプライバシーと同意の問題はそれで解決するわけではない。「テクノロジーの利便性と、私的空間への期待とのバランスが、静かに崩されようとしている。」

センチネル効果：テクノロジーと行動の複雑な関係

技術社会学の研究者は、こうした「常時聴取」デバイスが「センチネル効果」と呼ばれる現象を引き起こすと指摘する。自分の発言が機械によって文字起こしされる可能性があると知ったとき、人は自然と言動を変えるというものだ。「デバイス上での処理が実現できるなら、なぜ社会的安全に関わる問題はいまだに紛糾し続けるのか？」サンフランシスコでAI倫理を研究する学者のウー・ミンユー氏は記者に分析してみせた。「原則として、デバイス上でAIが処理を行うという約束はデータがクラウドに共有されるリスクを低減しますが、私たちはまだこの新しい常態に適応できていません。」こうした事例が起きるのは今回が初めてではない。歌手のテイラー・スウィフトはかつてインタビューで、誰かに密かに録音された「ぞっとする」経験を語り、「知らぬ間に録音される」ことへの公衆の懸念を呼び起こした。これもまた「センチネル効果」の一側面といえる。今や、この言葉はスマートウォッチのような日常的に身に着けるデバイスによる途切れることのないリアルタイム監視を表すのに、より適した言葉となっている。

業界への広範な影響

AppleのAI分野における展開はこれにとどまらない。新システムにはViz AIに類似した新しいAPIも導入されており、サードパーティの開発者がアプリを通じてインテリジェント要約などのAI機能を利用できるようになる。Appleはこれにより、AI機能を「閉鎖的かつ限定的」なものにとどめず、より多くのクリエイティブな開発者が参加できるようにすることを目指すとしている。ただし、プライバシー問題が特に顕著なエンタープライズAI分野で、消費者がいつになれば本当に安心できるようになるかは、依然として長い駆け引きの過程にある。

テクノロジーニュースサイトのThe Vergeはコメントの中で、Appleは「AIが人々の生活において果たすべき役割」を再定義しようとしているのかもしれないが、その定義の前提は非常に曖昧で矛盾に満ちた概念の上に成り立っていると指摘した。「ほとんどの人の生活において、スマートフォンとスマートウォッチはすでに人体の延長となっており、これによりインタラクションへの掌握力が弱まる。もしそのうちの一つのコンポーネントが誤作動や越権的な動作をした場合、その損失はプライバシーデータの漏洩だけにとどまらない」と、コラムニストのオーウェン・ウィリアムズ氏はこのように記した。

Appleが「いつでも収録」機能を導入した最初の企業というわけではない。Samsung Electronicsも、流出したGalaxy Watchの新テストバージョンに「聴取・記録」機能を複数のモードに組み込んでいることが明らかになっている。アナリストらは率直に、現在の市場の趨勢として、GoogleやAmazonなどがAIアシスタントをスマートホームハードウェアと統合し、AIを「受動的応答」から「能動的分析」へと進化させていると語る。しかしこれは一つの問いを生む。デバイスが私たちの発言すべてを常に聞き取れるとしたら、自由闊達な雰囲気はまだ生き残れるのだろうか？

Apple WatchのAI新機能に対する最終評価は、効率の向上を重視するか、プライベートな空間の保護を重視するかによって変わるかもしれない。否定できないのは、この種の議論はとうに技術そのものを超え、社会的倫理や人間同士の関わり方をめぐる思索へと発展しているということだ。Appleは、知情同意と機能管理に関するユーザーの懸念に応えるため、より透明性の高い「初回使用ガイダンス」を実施するとしている。しかしテクノロジーが前進するその歩みの中で、そのペースについていく準備ができている人が果たしてどれほどいるだろうか？

本稿はTechCrunchより編訳。