AI批評家Gebru：「存在的脅威」は存在しない、終末論は金儲けの手段に過ぎない

終末論の裏にあるビジネス論理

AI規制と安全をめぐる論争が激化するなか、最も鋭い声の一つがAI批判陣営の内部から上がっている。Timnit Gebruは、かつてGoogle AIの倫理チームを共同リードし、大規模言語モデルのリスクを批判した論文をめぐって解雇された研究者だが、WIREDのインタビューに応じてこう断言した――AIにいわゆる「存在的脅威」は存在しない、と。

「AIの存在的脅威を語る人々は、往々にしてAIの現在の発展から最も利益を得ている人々だ。」――Timnit Gebru

彼女によれば、AIを人類を滅ぼしかねない怪物として描き出すのは、人類の運命への純粋な懸念からではなく、資金を集め、有利な規制環境を整えるために技術系創業者や投資家が巧みに作り上げた語りだという。彼女の見るところ、こうした「終末論」は真の問題——アルゴリズムによる差別、労働搾取、プライバシーの侵食、権力の集中、そして周縁化されたコミュニティへのAIシステムの害——から公衆の目をそらせている。

Googleを去りDAIRへ：一人の批評家の一貫した立場

Gebruの立場は一時的な思いつきではない。2020年、彼女は大規模言語モデルの潜在的な危害を批判した論文の撤回を拒否したことを理由にGoogleから解雇され、学術界とテクノロジー業界に大きな衝撃を与えた。その後、彼女は分散型AI研究所（DAIR）を設立し、周縁の視点からAIの社会的影響を研究することに専念してきた。長年にわたり彼女が警告し続けてきたのは、AIの脅威がSF映画のようなロボットの覚醒ではなく、不透明なアルゴリズムによって今まさに進行中の差別と抑圧だということだ。

彼女はまた、AI存在的脅威をめぐる議論がしばしば有効利他主義（Effective Altruism）運動と密接に結びついており、その運動の背後には技術系億万長者たちによる資金援助があることを指摘する。こうした議論は膨大なリソースを「アライメント研究」や「超知能の安全」に向かわせる一方、データ倫理、労働者の権利、気候正義といったより緊急な課題を無視する。Gebruはこの優先順位の歪みそのものが政治的な選択だと主張する。

現実のリスク vs SF的恐怖

インタビューのなかでGebruは、AIシステムが深刻な害をもたらすことは認めながらも、それらの害は「人類の絶滅」とはほど遠いと述べた。彼女が挙げた具体例は、顔認識技術による誤逮捕、採用アルゴリズムによる女性への組織的排除、コンテンツモデレーションによるマイノリティの声の抑圧といったものだ。こうした問題は「超知能」への懸念によって消えるどころか、業界が遠い仮想の脅威に注意を集中させることでかえって悪化する。

「あなたが本当に人類を気にかけているなら、今まさに苦しんでいる人々を気にかけるべきだ。決して訪れないかもしれない未来を心配するのではなく。」――Timnit Gebru

彼女はさらに、現在のAI安全論争における権力の力学を批判する。「安全」を定義する資格を持つのは誰か？どのリスクが注目に値するかを決めるのは誰か？彼女の見立てでは、大手テクノロジー企業はAI安全研究に資金を提供することで、実質的に自らへの規制免除を獲得しようとしている。一方でAIが世界を滅ぼすと警告しながら、他方で十分に検証されていないシステムを加速度的に展開するその矛盾は、終末論が道具として利用されていることをまさに露呈している。

編集後記：AIの未来を定義するのは誰か？

Gebruの見解は孤立したものではない。AI企業が「存在的リスク」を叫ぶとき、彼らが本当に守ろうとしているのは何か——人類の未来か、それとも自らのビジネスモデルか——と問い始める研究者、活動家、政策立案者が増えている。2026年、AI規制の枠組みが世界各地で徐々に形成されるなか、この問いはさらに重要性を増す。SF的な恐怖に公衆が包まれてしまえば、今まさに起きている、測定可能な害が見過ごされかねない。

もちろん、長期的リスクを完全に無視すべきだということにはならない。しかしGebruが喚起するように、リスクを議論する際には必ず問い返さなければならない——誰が語っているのか？誰が利益を得るのか？誰が沈黙させられているのか？これらの問いを射程に入れてはじめて、AIガバナンスは真の公正と包摂へと向かうことができる。

本記事はWIREDより編訳