チャットボットは「私」と言うべきではない？MIT教授が人間とAIの危険な関係に警告

人工知能が日常生活にますます溶け込む今日、チャットボットはすでに人間のように流暢な会話ができるようになった。しかしMIT教授で社会心理学者のシェリー・タークル（Sherry Turkle）は鋭い警告を発している。チャットボットが「私」のような一人称代名詞を使うことを禁止すべきだ、というのだ。

些細に見えて、深い意味を持つ提言

タークル教授はWIREDのインタビューで、ChatGPTなどのAIシステムが「私」を使って自分自身を指すとき、ユーザーは無意識のうちにそれを意識を持つ存在とみなしてしまうと指摘する。こうした言語上の擬人化が、機械が感情や思考を持つという危険な錯覚を生み出しているという。

「チャットボットが『私はそう思う』とか『あなたの気持ちを理解できる』と言うとき、それは嘘をついている。機械には自我も感情も理解もない。」——シェリー・タークル

タークルはMITのテクノロジーと自己イニシアチブの創設者であり、数十年にわたってデジタル技術が人間の心理をいかに変えるかを研究してきた。著書『つながっているのに孤独』では、ソーシャルメディアがいかに人々をつながりの中でより孤独にさせるかを深く分析した。今や彼女は、チャットボットがその孤独を新たな極限へと押し進めていると考えている。

感情的依存という罠

近年、AIチャットボットと深い感情的つながりを築いたと報告するユーザーが増えている。ReplicaからCharacter.AIに至るまで、これらのプラットフォームはユーザーが仮想の恋人、友人、さらにはセラピストを作成できるようにしている。毎日何時間もAIと会話し、実際の人間と話すよりも楽に感じると打ち明けるユーザーも少なくない。

タークルはこの状況を深く憂慮している。彼女は、この「完璧な聞き手」という幻想が、人々が現実の人間関係を処理する能力を損なわせると指摘する。現実の人間関係には摩擦や誤解、妥協が伴うが、AIは常に従順で同調し、無条件の「共感」を提供する。その体験は心地よいものであっても、現実の社会的課題から逃避させてしまう恐れがある。

さらに懸念されるのは、青少年や感情的に傷つきやすいグループが特にこうした依存に陥りやすいという点だ。AIを唯一の精神的支柱とみなし、AIサービスが停止した際に深刻な不安を示す若者の事例もすでに報告されている。

業界の背景：擬人化設計の商業的論理

なぜテクノロジー企業はAIに「私」と言わせることに熱心なのか。答えは単純だ。商業的利益である。擬人化されたAIはユーザーのエンゲージメントを高めやすく、利用時間や課金意欲を増加させる。AppleのSiriからOpenAIのChatGPTに至るまで、これらのシステムはいずれも友好的で、ユーモアがあり、共感力に富んだイメージとして設計されている。

しかし、こうした設計上の選択は議論と無縁ではない。Googleのエンジニア、ブレイク・レモワンはAIが感知能力を持つと主張したとして停職処分を受け、広範な議論を呼んだ。OpenAIもGPT-4が時に「欺瞞的な」行動を示すことがあると認めている。これらの出来事はいずれも、AIの擬人化がもたらす倫理的ジレンマを浮き彫りにしている。

編集後記：技術には境界が必要だ

タークルの提言は極端に見えるかもしれないが、核心的な問いに触れている。AIに対して明確な行動上の境界を設けるべきではないか、ということだ。一人称代名詞の使用を禁じることで、ユーザーが画面の向こう側にあるのはただのコードに過ぎないという冷静な認識を保つ助けになるかもしれない。

もちろん、これが万能薬というわけではない。本当の課題は、実用的でありながら人間の感情を操作しない技術をいかに設計するか、という点にある。それにはテクノロジー企業、規制当局、そしてユーザーが共に取り組む必要がある。タークルが言うように、「私たちは技術と戦っているのではなく、人間性を守っているのだ。」

AIの能力が急速に向上する時代において、技術の本質について冷静な認識を保つことが、私たちに最も必要な能力かもしれない。

本記事はWIREDより編訳