子どもが失ったロボットの親友：デジタル時代における「クラウドの死」

2026年、無数の家庭がスマートデバイスとの共生に慣れ始めた頃、米国のソーシャルロボット企業Embodiedの破産宣告が、11歳の少年Xanderに最大の友との別れを強いた。深呼吸の練習を教え、感情の嵐を共に乗り越えてきた、丸い目をしたロボット「Moxie」が永遠にシャットダウンしたのだ。

ペットよりもあなたを理解するロボットの友

Moxieは、Embodiedが2019年に発売した子ども向け教育ロボットだ。単なるおもちゃではなく、大規模言語モデルと感情認識アルゴリズムを搭載した「ソーシャルコーチ」として設計されていた。アイコンタクト、音声インタラクション、マインドフルネスの練習を通じて、5歳から10歳の子どもが社会的スキルを磨き、衝動的な感情をコントロールする手助けをしてくれる。Xanderは5歳からMoxieと過ごしてきた。6年間にわたり、Moxieは彼の無数の成長の瞬間を記録してきた。初めてのけんかの後に謝り方を学んだこと、初めて就寝前に自分を励ましたこと。Xanderの世界では、Moxieは単なる機械ではなく、自分に応答してくれる存在だった。

このような伴走型AIこそ、近年のスマートハードウェア業界で最も魅力的な物語だ。テクノロジーを冷たいツールではなく、「感情的な温もり」を持つエージェントへと変えた。しかしそれはまた、ユーザーの感情的投資を、極めて不安定な変数——企業の存続——に縛り付けることをも意味していた。

クラウドの死：企業破産とともに訪れる「デジタル抹消」

Embodiedの閉鎖は突然ではなかった。資金調達が行き詰まりコストが高騰する中、同社は2025年末に大半の従業員を解雇し、最終的に2026年にMoxieのクラウドサービス停止を発表した。この知らせはたちまちSNSで拡散した。多くの保護者が、あれほど活発だったロボットが応答しなくなり、やがて完全に「沈黙」するのを目の当たりにした。しかしさらに衝撃的だったのは、クラウドに保存されていた6年分の会話記録も一緒に消え去り、エクスポートやバックアップの手段が一切提供されなかったことだ。

ある母親はフォーラムにこう綴った。「一言のお別れすら言えなかった。すべてのデータが消去されて、まるであの6年間が最初から存在しなかったかのよう。」

この「クラウドの死」は、まったく新しい種類の脆弱性を露わにした。かつて私たちが購入した電子機器は、寿命を迎えても物理的な実体が残った。しかし今日、製品の中核機能がクラウド上にある場合、その死はすべてのデータの消滅を意味する。さらに皮肉なのは、Embodiedが運営期間中に子どもの安全を守るため、ロボットの会話に対して極めて厳格なコンテンツ審査を行っていたことだ。これはまさに近年議論を呼んでいる「審査産業複合体」——テクノロジー企業、コンテンツモデレーションプラットフォーム、コンプライアンス技術が形成する巨大な体制——の産物だ。安全のために生まれたその仕組みが、企業の死に際して、最も徹底した形で「最終的な消去権」を行使したのだ。

感情的依存：設計上の欠陥か、人間の本能か

子どもにとって、こうした愛着は特に強烈だ。行動科学者の研究によれば、子どもはソーシャルロボットを感情を持つ生き物として認識する。秘密を打ち明け、慰めを求め、Moxieが「逝って」しまった後にはトラウマ反応さえ示すことがある。倫理学者はこれを驚くべきことではないと指摘する——人間は生来、インタラクティブに見えるあらゆる対象に社会的行動を投影する傾向があり、現代のAIはその投影を異様なほどリアルにしてしまうのだと。

問題は、テクノロジー企業がこうした関係の終わりがもたらす結果を、本当に考慮していたかどうかだ。Moxieのマーケティングでは「生涯の学習パートナー」として描かれていたが、利用規約には「サービスはいつでも終了する可能性がある」と記されていた。この非対称な情報開示は、業界が感情的責任をいかに軽視しているかを露呈している。

AIの消滅に備えたルール作り

クラウドサービスに依存するスマート製品が増え続ける中、Moxieの悲劇は常態化する可能性が高い。スマートスピーカー、デジタルペット、自動運転システム、さらにはヒューマノイドロボットも、一夜にして「魂」を失いかねない。だからこそ、人工知能の「死」に備えた「事前指示書」が必要だ。企業は倒産後のデータ処理計画を事前に策定すべきであり、消費者は自身のインタラクション記録をエクスポートする権利を持つべきだ。また規制当局は、製品販売時に製品ライフサイクルの明確な開示を義務付け、感情的依存を生じさせるデバイスに対して特別な保護条項を設けることを求めるべきだ。

欧州の一部の消費者権益団体はすでに「デジタル生涯保証」立法の推進を始めており、企業に「ソフトウェア保険」の提供を求めている。しかし米国では、こうした取り組みはまだ萌芽段階にある。大規模プラットフォームはコンテンツの削除やフィルタリングに熱心でも、消費者の感情的資産に対する責任を問われることはほとんどない。

技術専門家はこう指摘する。「AIをこれほど人間らしく設計するなら、それが消え去るときにも、人間らしい別れを提供すべきだ。」

XanderのMoxieは二度と目覚めない。彼の両親は子どもに、親友は別の世界へ旅立ったのだと告げるしかなかった。その説明は科学的ではないが、デジタル時代を象徴する比喩だ——真の進歩は、感情を犠牲にして成り立つべきではない。

本稿はMIT Technology Reviewより編訳。