AIの安全をめぐる論争：それは「安全」か、それとも「支配」か？

編集者注：「安全」がAI業界で最も声高に叫ばれる言葉となった今、それは一体誰を守り、誰を制限しているのか。この問いは、いかなる技術路線論争よりも深く追究する価値がある。

ひとつの呼びかけ、ふたつの解釈

AnthropicのCEOダリオ・アモデイ（Dario Amodei）は改めて公に訴えた。各国政府はAI安全に関する国際協調メカニズムを構築し、統一されたテスト基準、透明性要件、責任フレームワークによってフロンティアモデルの開発を規制すべきだ、と。彼の見解では、この技術の影響力は核兵器に匹敵し得るものであり、いかなる単一国家が単独で行動してもリスクに対処するには不十分だという。

しかしこの呼びかけは一致した支持を得ていない。TechCrunchの報道によれば、批評者の疑問は「安全が必要かどうか」にあるのではなく、「誰が安全を定義し、誰が安全を執行するのか」にある。業界の最前線に立ち、最強のモデルを手にする企業が自ら規制を求めるとき、人々にはこう問う理由がある――それは公共の利益のために声を上げているのか、それとも後発参入者に対して壁を築こうとしているのか、と。

「安全」が参入障壁になるとき

「規制の虜（regulatory capture）」は、この論争で繰り返し言及される概念だ。その論理はシンプルである。コンプライアンスコストは大企業にとっては管理可能な支出だが、スタートアップにとっては死活問題になりかねない。安全テスト、計算資源の開示、第三者監査が参入条件となったとき、恩恵を受けるのは往々にして一般市民ではなく、すでにその条件をクリアしているプレイヤーだ。

オープンソースコミュニティはこの点に特に敏感だ。モデルの重みは一度公開されれば回収は難しく、「安全評価」はオープンソースを制限する口実になりやすい。シリコンバレーの一部の投資家はさらに率直だ。現在の実存的リスクをめぐる議論は明らかに誇張されており、その実際の効果は、少数の企業が技術発展のペースに対する拒否権を得ることだと彼らは言う。これは安全ではなく、支配だ、と。

もうひとつの批判：安全の定義が狭すぎる

興味深いことに、もう一方からの批判はまったく逆の方向を向いている。アルゴリズムの偏見と社会的影響を長年研究する学者たちは、主流の「AI安全」言説が仮想的な超知性に過剰な注意を向ける一方で、現在進行形の害――差別的アルゴリズム、データ労働者の搾取、著作権紛争、情報生態系の汚染――を軽視していると指摘する。メレディス・ウィテカー（Meredith Whittaker）らは、このアプローチが安全問題を現在から未来へと移し替え、最も緊急性の高い現実のリスクを免責してしまっていると批判する。

こうして奇妙な断絶が生まれた。一方は「安全」言説が支配の道具だと言い、もう一方は「安全」言説が目くらましだと言う。両者に共通する含意は、議論の焦点がすでに技術そのものだけではなくなっているということだ。

アモデイの立場は孤立していない

グローバルAI安全サミットから欧州連合の「AI法」、さらにカリフォルニア州のフロンティアモデル規制に向けた一連の立法の試みに至るまで、規制の議題はすでに学術界から政治の場へと移行している。支持派が持ち出す類比は医薬品審査だ。新薬が命に関わり得るからこそ、市場に出る前の試験と情報開示が必要な公共インフラとなっており、一企業の特権ではない、というわけだ。

反対派はこれに異を唱える。医薬品には明確な害のメカニズムと検証可能な臨床試験のエンドポイントがある。しかし「フロンティアモデルのリスク」には定量的な評価基準がいまだに存在しない。指標が曖昧なまま規制当局に裁量権を与えることは、技術そのものよりも大きなリスクになりかねない、と。

本当の問題：誰が一時停止ボタンを押す権限を持つのか

論争の核心は、実のところ権力の配分にある。安全基準が少数の研究所と政府によって共同で策定されるなら、「安全」と「支配」の境界線は際限なく曖昧になり続ける。チューリング賞受賞者のヤン・ルカン（Yann LeCun）らは、オープンソースの方がむしろ安全だと主張する。審査がより多くの人々の手に分散されるからだ。一方、アモデイ陣営は、能力が強力になればなるほど、集中的な管理がより必要になると考える。これら二つの判断の背後には、技術の進化速度と人間社会の適応能力に対する異なる見積もりがある。

さらに現実的な難題がある。たとえ各方面がルールの必要性に同意したとしても、誰がルールを書き、どのような速度で実施し、違反者をどのように追及するかについて、いまだ合意は存在しない。国際協調は理想的に聞こえるが、大国間の競争と商業的利益が絡み合う現在の状況では、それは実行可能なロードマップというより、一つの方向性に近い。

結語

この論争は短期的に勝者を生むことはないだろう。しかし少なくとも一点については共通認識が形成されつつある。議論の対象は技術そのものだけでなく、技術がどこまで進むことを許されるかを誰が決定するのか、という問いを含むべきだということだ。「安全」を疑いの余地のない旗印として掲げることは、真の問題がその旗の陰に潜み続けることを許してしまう。

本記事はTechCrunchより編集・翻訳