Timnit Gebru：AI終末論は注意をそらすための煙幕だ

AIの未来をめぐる公共的な議論において、「絶滅リスク」や「人類の存亡」という語りはますます声高になっている。しかし、AI分野で最も鋭い批評家の一人である分散型AI研究所（DAIR）創設者のTimnit Gebruは、こうした終末論的な論調は安全への真摯な関心から生まれたものではなく、精巧に設計された注意転換の戦略だと主張する。その目的は、AI技術が現在すでに引き起こしている具体的な害から、一般市民や規制当局の目をそらすことにあるというのだ。

終末論の「機能」：真の問題の回避

Gebruの批判が向かう先は、ある核心的な矛盾だ。AI企業は一方で、人類を滅亡させかねない技術を開発していると声高に喧伝しながら、自律型兵器、大規模監視、アルゴリズム差別といった具体的な害については沈黙を保ち、消極的な対応に終始している。彼女はこの戦略に明確なPRおよび規制裁定の論理を見出す。「AIが人類を絶滅させるかもしれない」という仮定的な未来に議論がとどまっているかぎり、企業はすでに現実に起きている雇用差別、プライバシー侵害、偽情報の拡散といった問題に責任を負わずにすむからだ。

「こうした終末論の議論は、私たちの注意をそらすためのものです。それらはAIの真のリスクを理解する助けにはならず、私たちが本当に注目すべき事柄から引き離しているのです。」

この見方は、近年のAI安全論争の展開とも深く共鳴する。2023年に「AI絶滅リスク」に関する公開声明が発表されて以来、AI業界の主要企業は、存在論的リスクの枠組みでAI安全の議題を定義する傾向を強めている。批評家たちが指摘するのは、この枠組みが「AIが今していること」から「AIが将来するかもしれないこと」へと人々の関心を移行させている点だ。規制と倫理ガバナンスが優先すべきは、まさに前者であるはずにもかかわらず。

自律型兵器：かき消される現実の害

Gebruが特に取り上げるのが自律型兵器の問題だ。彼女の見るところ、致死的な自律型兵器システムの発展は、AIがもたらす最も差し迫った、かつすでに一部実現している害の一つだ。しかしそれは、「AIによる絶滅」と同等の公共的関心をほとんど得られていない。理由は複合的だ。軍事応用には国家安全保障の語りが絡み、企業は協力関係の詳細を公に議論したがらない。さらに、終末論の喧騒が、個別の倫理的議題に向けられるべき議論の空間を奪ってしまっている。

この判断には根拠がある。GoogleのProject Mavenはかつて社内で大規模な抗議を招き、最終的に同社は軍のドローン映像解析契約の更新を断念した。しかしこうした論争は近年のAI言説においてしだいに周縁化されており、議論の焦点は汎用人工知能の実現時期と存在論的リスクへとより多く集中している。「AIはすべての人間を殺すのか」が注目を集めるコンテンツになるとき、「AIがどの兵器システムに使われているか」という問いは、十分に注目に値しないものとして扱われてしまう。

「AI倫理」から「AI安全」への意味的転換

この数年、AI業界では顕著な語りの転換が起きた。「AI倫理」から「AI安全」への移行だ。前者はバイアス、公正性、プライバシー、労働問題といった社会的影響に着目し、後者はモデルアライメント、制御可能性、存在論的リスクといった技術ガバナンスの問題をより多く指し示す。この変化は偶然ではない。批評家たちは、「安全」という言説が企業にとってより都合のよい枠組みを提供していると指摘する。リスクの存在は認めながらも、その解決策を外部規制や構造的改革ではなく、企業主導の技術研究へと誘導するからだ。

GebruがDAIRを設立したのは、まさにこの趨勢への直接的な応答だ。同研究所は、影響を受けるコミュニティの視点からAI研究を行うことを重視し、抽象的な将来リスクではなく、AIが周縁化されたコミュニティに与える実際の影響に焦点を当てる。この立場は彼女をAI業界の中で独自の声の持ち主にしている。「加速主義」の陣営にも属さず、主流のAI安全機関にも完全には受け入れられない存在として。

終末論はなぜ企業に都合がよいのか

PRの観点から見ると、終末論はAI企業に複数の価値をもたらす。まず、「私たちは極めて重要かつ危険なことをしている」という語りを形成し、製品開発や資金調達活動に歴史的な切迫感を与える。次に、規制をめぐる議論を遠い未来のシナリオへと向かわせ、現在のAIシステムに対する具体的な法規制——データ保護、差別禁止、労働権保護など——は「イノベーションを妨げるな」という旗印のもとで先送りまたは骨抜きにされる。最後に、二項対立の枠組みを生み出す。AIが人類を絶滅させる可能性を信じるか、それともリスクを軽視しているかという二択だ。この枠組みは中間的な立場を排除する。すなわち、一部のリスクが現実に存在すると認めつつも、すでに差し迫っている具体的な害の解決を優先できるという立場を。

もちろん、このような見方を持つのはGebruだけではない。学術界や市民社会組織においても、「存在論的リスク」の枠組みが実際には業界の利益に資しているのではないかと問い始める声が増えている。しかし彼女の声が特別な意味を持つのは、AI技術研究の専門的な背景を持ちながら、Googleからの解雇という経緯によって業界倫理論争の象徴的人物になったという事情がある。彼女の批判はそれゆえ、技術的な信頼性と道義的な権威という二重の重みを帯びている。

編者注：誰がリスクを定義し、誰が優先順位を決めるのか

Gebruの論点は、AIをめぐる公共的な議論そのものが権力の場であることを私たちに思い起こさせる。何が問われ、何が棚上げにされるか。どのリスクが増幅され、どの害が無視されるか。こうした選択は決して中立ではない。業界リーダーたちが「AIは人類を終わらせるかもしれない」と警告する一方で、軍に技術を売り続け、データプライバシー立法に抵抗し続けているとき、私たちには問う理由がある。終末論の真の機能とは何なのかと。

次に「AIが人類を滅亡させるかもしれない」という見出しが現れたとき、まず問うてみる価値があるかもしれない。私たちは今、何を見ないように促されているのかと。

本稿はWIREDからの編訳である。