AIは本当に人類を滅ぼすのか？終末論的警告が再び鳴り響く

編集者注：かつて最先端のAI研究所で働いていた研究者が「私たちは制御不能なものを作っているかもしれない」と公に警告し、その同じ週に別のグループがAIを使って権威あるように見える選挙レポートを偽造していた——この二つの場面の間にある緊張感は、いかなる技術的な細部よりも警戒に値するかもしれない。

最新エピソードのポッドキャスト『Uncanny Valley』で、ホストのBrian Barrett、Leah Feiger、そしてベテランAIジャーナリストのWill Knightが、表面上はまったく無関係な3つの出来事を並べて議論した。元Anthropic研究員によるAI終末論的警告、Appleの発表会がもたらした新たな機能アップデート、そして「国勢調査データ」として拡散されたレポート——このレポートはトランプが2020年大統領選挙に勝利したという荒唐無稽な主張をしていた。

この3つの線は、現在の人工知能が持つ3つの顔を浮かび上がらせる。AIは存在論的リスクをもたらしうる強力な技術であり、同時に消費者向け電子機器に詰め込まれたマーケティングの売り文句であり、さらには偽情報を生成・拡散させる効率的なツールでもある。

一、研究室内部からの終末論的警告

今週最も注目を集めた声は、Anthropicを去った研究者から発せられた。彼はかつて自ら構築に関わった技術への深刻な懸念を公に表明し、現在のAI開発の方向性には制御不能に陥る可能性があると訴えた。こうした警告はここ数年で珍しくなくなっている——「AIの教父」Geoffrey HintonがGoogleを離れた後に発した声明から、汎用人工知能（AGI）のタイムラインに関する各種公開書簡に至るまで、業界内部の不安はもはや秘密ではない。

しかし注目すべきは、発言者の立場である。Anthropic自体が「AIの安全性」を核心的な存在意義として設立された会社であり、その創業チームの多くはOpenAI出身で、能力向上とリスク管理のバランスを長年主張してきた。そのような会社の元社員が立ち上がって警告を発した場合、外部がそれを単純に「素人の恐怖」や「炒作」として片付けることは難しい。

「本当のリスクは機械が突然目覚めることではなく、一連の一見合理的な小さな決断の積み重ねの中で、私たちが重要な判断権を少しずつ手放していくことにある」——これは本エピソードで繰り返し言及された見方である。

批判者は、終末論的な語りそのものにも副作用があると指摘する。それは公衆の注意を、より現実的で差し迫った問題——アルゴリズムによる差別、労働の代替、著作権の争い、モデルの学習に伴うリソース消費——から遠ざけてしまう。言い換えれば、「人類の滅亡」を心配するのは容易だが、「来月リストラされないか」を解決するのははるかに難しい。

二、Appleの発表会：AIが新たな標準装備に

研究室における哲学的論争と鮮明な対比をなすのが、Apple発表会の場に漂う典型的なプロダクトのリズムだ。新ハードウェアの性能向上、カメラの世代交代、システムレベルでのAI機能統合——これらがイベント全体の骨格を形成した。大多数の消費者にとって、これこそがAIが本当に「生活の中に入ってくる」方法だ。リスクに関する声明を通じてではなく、スマートフォンに増えた一つのボタンを通じて。

業界の背景として、過去2年間でほぼすべての主要な端末メーカーがAI能力をコアな競争力として宣伝してきた。エッジ側モデルのローカル推論から、クラウド上の大規模モデルとの連携まで、デバイスメーカーはプライバシー保護と高機能の間に売り文句を見出そうとしている。この「静かな浸透」こそが、前述の研究者が懸念するシナリオの穏やかな版だ。人々は急激な変化によって警戒するのではなく、利便性によって徐々に依存していく。

番組では興味深い現象も取り上げられた。同じ週に、AIが文明を滅ぼすかもしれないという議論と、ある新機能の使い勝手に関する議論が、まったく矛盾なく同じテクノロジーニュースのリストの中に共存できるということだ。これ自体、この技術に対する公衆の認識が分裂した状態にあることを示している。

三、AIで包まれた嘘：あの「国勢調査レポート」

3つ目のニュースは、まるで不条理な社会実験のように聞こえる。国勢調査データに基づいてトランプが2020年大統領選挙に勝利したという結論を導き出したと称するレポートがネット上に拡散した。ファクトチェッカーはすぐにそのデータソース、統計手法、結論のいずれも成立しないと指摘したが、それでも相当な拡散量を獲得した。

鍵は形式にある。文書に正式なタイトルがあり、専門的に見える表とグラフがあり、「データに裏付けられた」外観を持つとき、一般の読者がひと目で真偽を判断することはほぼ不可能だ。生成AIはこの「形式上の信頼性」を極めて安価にした——かつてそれらしいレポートを偽造するにはレイアウト、グラフ、そして一定の専門知識が必要だったが、今や一段のプロンプトがあれば足りる。

これがこのエピソードで最も鋭い指摘でもある。私たちがAIは人類を滅ぼすかどうかを議論している間に、AIはすでにより低調な方法で公共の議論の基盤——事実に対する共通認識——を侵食している。大々的な機械の反乱と比べて、大量の偽造コンテンツで埋め尽くされた情報環境の方が、より早く到来する危機かもしれない。

四、3つの線索は実は一つ

この3つの出来事を並べてみると、それらが同一の根本問題を共有していることがわかる。AIの能力が成長するスピードが、私たちが規範を構築し、情報を検証し、集合的な判断を下すスピードを超えてしまっているということだ。

研究者が懸念するのは能力の上限であり、Appleが示すのは能力の普及であり、偽レポートが示すのは能力の乱用だ。この3つは3つの異なる未来ではなく、同じ現在の3つの断面である。本当の問題は「AIが私たちを殺すかどうか」ではなく、「AIが至るところに存在する世界で、何が本当で何が重要かを見分ける能力が私たちにどれだけ残っているか」かもしれない。

これは『Uncanny Valley』という番組が一貫して取ってきた立場でもある。AIに関する議論を「楽観派」と「悲観派」の対立に単純化することを拒み、壮大な語りに覆い隠されてきた具体的な問いを問い続けること。

本稿はWIREDより編集翻訳。