AI終末論が左翼を引き裂く：規制をめぐる合意はなぜ崩壊したのか

編集者注：AI規制は、米国政治において最も「口頭での合意」が得られやすい議題の一つとなっている。しかし「具体的に何を規制すべきか、何を最も恐れるべきか」と問い返した途端、同じ陣営に立っていたはずの人々はたちまち分裂する。WIREDのこのレポートが記録するのは、左翼内部でいまだ完全には表面化していない、この内なる戦いである。

合意はスローガンで止まる

米国の政治スペクトルの左翼において、「AIには規制が必要だ」と公然と反対する者はほぼいない。公民権団体、労働組合、環境団体、学術研究者、そして一部のテクノロジー従事者は、過去数年にわたってAIにガードレールを設けるよう繰り返し訴えてきた。しかし議論が具体的な内容に踏み込んだ途端、一見結束しているように見えたこの連合に亀裂が生じる。「超知性」がいつか人間の制御を離れることを恐れる者がいる一方、アルゴリズムが今この瞬間にも患者の医療保険申請を却下し、入居者を選別し、誰が警察に呼び止められるかを決定していることを恐れる者もいる。

このレポートの核心的な判断は、一言で要約できる：

「左翼はAI規制を望んでいる。ただ、規制がどうあるべきか、そしてどの程度心配すべきかについて、合意に達することができないでいる。」

「終末論派」と「現実的被害派」

対立の第一の亀裂は、「何を恐れるべきか」という点にある。一方の派閥はAI安全派あるいは終末論者と呼ばれ、存在的リスクに焦点を当てる。人間の能力をはるかに超えたシステムがいつか出現した場合、その結果は不可逆的なものになりかねないという立場だ。この思想的潮流は有効利他主義や長期主義と深く結びついており、その支持者にはテック富豪やフロンティア研究所の研究者も少なくない。

もう一方の派閥は、こうした終末論的な語りに対して強い警戒心を抱いている。彼らの見方では、まだ起きていない災害に注意を注ぎ込むことは、現在進行中の不平等・差別・権力集中の問題を脇に追いやることに等しい。データセンターのエネルギー消費と水資源の使用、コンテンツモデレーション業務に従事する労働者の心理的外傷、生成AIがクリエイティブ産業や翻訳・カスタマーサービスといった職種に与える打撃——これらは現実に起きている被害であり、しかも多くの場合、交渉力が最も乏しい層がその負担を担っている。

批判者たちはさらに、長期主義の枠組みには潜在的な価値の序列が存在すると指摘する。将来存在しうる膨大な数の命が、現在の具体的な個人よりも高い道徳的重みを与えられているというのだ。構造的不平等に長年向き合ってきた活動家たちにとって、このような優先順位は到底受け入れがたい。

「安全ウォッシュ」と規制の取り込みへの懸念

第二の亀裂は戦略にかかわる。存在的リスクが議論に値すると認める場合でも、多くの左翼活動家は「終末」という語りが政治的に逆利用されることを懸念している。

最も典型的な懸念は「安全ウォッシュ」だ。AI企業が自ら作り出している危険について積極的に語るとき、そのような率直さはブランド資産となり、緩やかな規制を求める口実にもなる——「この問題はあまりにも重要で複雑すぎる。標準を定めるのは我々であるべきだ」というわけだ。同時に、厳格な認可・コンプライアンス要件は豊富なリソースを持つ大企業にしか対応できないことが多く、結果として中小の開発者やオープンソースコミュニティを締め出し、既存の大手企業の地位を客観的に固めることになる。

歴史的に見ると、航空・製薬・金融といった業界の規制においても同様の事態が起きてきた。安全基準は参入障壁を引き上げると同時に、業界の勢力図を塗り替えてきた。問題は基準を設けるかどうかではなく、誰が策定に関与し、基準が誰のために機能するかだ。

労働・公民権・議題をめぐる争い

第三の亀裂は「誰が代表するか」という問題だ。労働組合が注目するのは自動化と雇用の喪失、そして技術の導入における労働者の発言権である。公民権団体はアルゴリズムによる差別、監視の拡大、生体認証の問題に目を向ける。環境団体は算力インフラの資源消費を懸念し、独占禁止を訴える活動家は市場集中度に関心を持つ。

これらのグループは相互に相容れないわけではないが、それぞれが緊急の議題を抱え、限られたリソースと政治的資本しか持っていない。「AIの終末」がメディアの見出しと公聴会の席を占領するとき、他の議題は周縁に追いやられやすくなる。これこそが、「どの程度心配すべきか」という問いが、哲学的な問いであるにとどまらず、本質的にはリソース配分の問題でもある理由だ。

分裂のコスト

長らく対立陣営を「科学リテラシーの欠如」や「現実逃避」と批判してきた政治勢力にとって、内部分裂は珍しいことではなく、必ずしも悪いことばかりでもない——少なくとも、議論が単純な白黒論に矮小化されていないことを示しているからだ。しかし代償もまた現実のものだ。規制の好機が瞬く間に過ぎ去りかねない今、統一した立場を形成できない陣営が立法過程で議題設定権を握ることは難しい。

さらに微妙なのは時間軸のずれだ。技術の反復は月単位で進み、立法は年単位でしか動かず、政治サイクルは選挙を刻みとする。左翼が「まず何を規制すべきか」を議論しているうちに、業界の展開スピードと既成事実の規模が、すべての人に代わって選択を下してしまっているかもしれない。

この論争の最終的な行方は、どちらの側の論理がより厳密かではなく、どの陣営が自らの懸念を、実行可能で、採決に付され、市民が理解できる規制案へと転換できるかにかかっているだろう。

本稿はWIREDより編訳