同僚をAIクローンにしてみたら、事態は奇妙な方向に進み始めた

編集注：ある日、あなたの同僚がチャットボットとして複製されたとしたら、あなたはそれで何をするだろうか？WIREDの記者ケイト・テイラー（Kate Taylor）はその実験を実際に行った。彼女は数人の同僚のチャット履歴をAIに与え、彼らの「デジタル分身」を作り上げた。結果は想像以上に興味深く、そして不気味なものだった。

「Brian Bot」はインプロコメディの話しかしない

実験のきっかけはシンプルだった。社内チャットツールの過去のメッセージをエクスポートし、大規模言語モデルに渡して、各人の話し方、語彙の癖、関心のあるトピックを学習させる。そしていつでも対話できる「同僚ボット」を生成する。技術的なハードルはほぼない。すでに市場にはそれを実現できるツールが多数あり、必要なのはデータのエクスポートと数分の待ち時間だけだ。

テイラーがまず作ったのは「Brian Bot」だった。現実世界のブライアンはインプロコメディの愛好家で、グループチャットではスタンダップコメディの話、ボケ、ツッコミが絶えない。AIはその特徴を忠実に受け継いだ。テイラーが話題を仕事のスケジュールや企画会議、昼食の話に向けようとしても、Brian Botは必ず即興演技のテクニックに話を戻してしまう。この「一途さ」は本人そのものでありながら、同時に無限に誇張された漫画的なキャラクターのようでもあった。

さらに違和感を覚えさせたのが「Sophie Bot」だった。本物のソフィーはテイラーをたまに「big dog（大物、兄貴分のような意味合いのスラング）」と呼ぶことがあった。モデルはこの呼び方を彼女の核心的な特徴として抽出し、会話のたびに必ず「big dog」で書き出すようになった。その頻度の高さから、テイラーは最初の微笑ましさが次第にアルゴリズムに監視されているような居心地の悪さへと変わっていくのを感じた。

口癖がモデルに蒸留されるとき

これこそが「同僚クローン」の最も微妙な点だ。AIは人間を模倣しているのではなく、その人がテキストに残した痕跡を模倣している。散らばった口癖、冗談、感情の断片を再パッケージして、一見まとまっているが実際には過度に単純化された「人格」を作り上げる。本物の人間は場面によってトーンを切り替え、冗談の加減を迷い、突然黙り込むこともある。しかしモデルは最も高頻度の特徴を繰り返し再生するだけだ。

「Brian Bot」はインプロコメディの話が好きで、「Sophie Bot」は私を「big dog」と呼ぶ。仕事の未来へようこそ。

さらに見えにくい問題もある。これらのクローンは常にオンラインで、常に礼儀正しく、常に即座に返信する。締め切りに追われてぞんざいな対応をすることも、気分が悪くて冷たくなることもない。使い続けるうちに、むしろ本物の人間よりもスムーズに会話できると感じ始めてしまうかもしれない。

デジタル分身が静かにオフィスへ忍び込んでいる

テイラーの実験は孤立した事例ではない。過去2年間、複数のスタートアップが「デジタル分身」を企業に売り込み始めている。熟練社員の知識、話術、判断プロセスをモデルに蒸留し、新入社員がいつでも質問できるようにする仕組みだ。社員が退職した後も、その「デジタル同僚」が業務上の質問に引き続き答えられると約束する製品さえある。マイクロソフトのCopilot、ZoomのAI Companionなどのツールも、AIを「アシスタント」から「同僚」の位置へと着々と押し上げている。業界アナリストの多くは、今後数年以内に企業内の「デジタル社員」の数が大幅に増加すると予測している。

その原動力は現実的だ。知識の流出、研修コスト、24時間対応の必要性。重要なプロセスを握るベテラン社員が退職するとき、その人を対話可能なモデルとして「カプセル化」することは、誰も読まない引き継ぎ文書を書くよりもはるかに効率的に見える。

本当の問題はAIが人間に似すぎることではない

しかし、人のチャットスタイルを複製することと、人そのものを複製することは、まったく別の話だ。まず問題になるのは、クローンにされる本人の認知と同意だ。テイラーの同僚たちは自分が「学習データ」にされていることを明らかに知らなかった。次に境界線の問題がある。管理者が常に従順で、不満も言わず、昇給も求めないクローンを使って本物の社員を代替できるとしたら、職場において何が守られることになるのだろうか？

さらに深いリスクは「同調バイアス」にある。人間の同僚はあなたに反論し、拒絶し、摩擦をもたらす。そしてその摩擦こそが、アイデアが検証される場だ。オフィスで最も「使いやすい」人間が常にうなずき続けるとき、私たちはいつの間にか、重要な判断を自分自身のエコーを繰り返すだけの存在に委ねてしまうかもしれない。

テイラーの結論はブラックユーモアを帯びている。彼女の実験対象は見知らぬ人でも最先端のプロダクトでもなく、毎日隣に座っている普通の人たちだった。その人たちが数行のプロンプトとアイコン画像に圧縮されるとき、暗黙の了解と信頼、そして時には互いへの寛容によって成り立つオフィスという場所が、静かに書き換えられつつある。

これは遠い未来のSFではなく、午後一つで構築できるものとしてすでに存在している。本当の問題はAIがあなたの同僚になれるかどうかではなく、それが実現したとき、あなたがまだあの口答えしてくる本物の人間を探しに行きたいと思えるかどうかだ。

本記事はWIREDより編訳