日常的なAIの被害は見過ごされ、核動力宇宙開発競争が加熱

編集者注：「AIによる絶滅リスク」が見出しを飾る中、毎日起きているにもかかわらず劇的でないがゆえに隅に追いやられる被害がある。一方、一般の人々からはるかに遠い場所では、核動力宇宙開発をめぐる競争が熱を帯びている。MIT Technology Reviewの日刊ニュースレター『The Download』はこの2つのテーマを同じ号に取り上げ、技術ガバナンスの真の難しさは往々にして最も大きな警鐘の中にあるのではないことを示している。

一、「破滅的叙事」に覆い隠される日常的被害

今号の『The Download』で最も注目を集めたのは、青年擁護団体「Young People's Alliance」の共同創設者Sam Hinerと「Responsible Technology Youth Power Fund」のエグゼクティブディレクターEmma Leikenによる論説記事だ。両者の核心的主張はシンプルである。AIの安全をめぐる公共的議論は長らく「破滅的シナリオ」に支配されてきた——モデルの暴走、生物兵器の悪用、極端な形での大規模失業。これらの問題が重要であることは確かだが、政策や世論をもう一種類のリスクから遠ざけやすい。それは分散していて些末で数値化が難しい一方、現実に具体的な人々の上に降りかかっているリスクだ。

「日常的被害」とは、すでに生活の中に組み込まれた一連の小さな誤作動と小さな抑圧を指す。採用アルゴリズムが履歴書の選別で歴史的偏見を再現する。ディープフェイクがハラスメントや辱めに利用される。自動化された意思決定システムが福祉の受給資格を誤判断し、ある家族を数週間のうちに困窮させる。コンパニオン型チャットボットが感情的依存をもたらし、特に青少年に影響を与える。レコメンドアルゴリズムが情報環境を汚染し続ける。プライバシーが繰り返しの「同意」の中で希薄化していく。これらの被害が見出しになることはほとんどない。「終末感」がなく、明確な責任主体もないからだ。

この論説の核心は一文に集約できる。「終末」だけをAIリスクの物差しにするなら、現在進行中の劇的でない被害は体系的に過小評価されることになる。

二、なぜ「日常的」な問題ほどガバナンスが難しいのか

破滅的叙事には一つの利点がある。明確な「敵」が存在することだ。モデルの暴走は特定でき、生物兵器は規制できる。そのため政策課題や研究予算、国際交渉に転化しやすい。日常的被害はその逆だ。無数の製品、場面、インターフェースに分散しており、統一した責任主体も測定可能な指標もない。規制当局は証拠を集めにくく、企業には開示のインセンティブがなく、被害者はアルゴリズムに影響を受けていたことさえ気づかない。

さらに厄介なのは、日常的被害の分布が極めて不均衡なことだ。若者、低所得層、少数民族はアルゴリズムの「テストサンプル」になりやすい。新しいツールにより早く接触し、申し立てのためのリソースを持たず、自動化された意思決定によって誤った不利益を受けやすい。これが両著者が「若者の視点」を強調する理由だ——彼らはAIネイティブ世代であり、最も長くリスクにさらされる人々でもある。ガバナンスの焦点を「最悪のケース」から「現在進行中のケース」へと移すには、きめ細かな制度設計が必要だ。アルゴリズム監査、システマティックなリスク開示、実効性のある申し立てと救済の手続き、そして影響を受ける人々がルール作りに真に参加できる仕組みがそれにあたる。

三、核動力宇宙開発：加速するもう一つの曲線

同号のもう一つの主題は核動力宇宙開発だ。現在主流の化学推進はエネルギー密度の制約から、火星への片道飛行に半年以上を要することが多く、ミッションの時間枠や補給ラインは非常に逼迫している。核熱推進（NTP）は原子炉で液体水素を直接加熱し、高速ガスをノズルから噴射するという発想で、比推力は化学ロケットの2倍以上に達し、深宇宙への飛行時間を大幅に短縮し、宇宙飛行士が受ける積算放射線量を低減できる。

業界の背景として、NASAとDARPAはかつてDRACOプログラムを共同推進し、今十年末までに核熱推進機の宇宙実証を完了することを目標としていた。複数の宇宙開発請負業者と原子力企業が原子炉および燃料に関連する研究開発に参加している。技術的課題も明らかだ。原子炉の小型化、地上および軌道上での安全試験、打ち上げ事故シナリオにおける公衆の受容性、そして核物質と核不拡散の枠組みとの整合がそれにあたる。一方でロシアと中国も同様の概念を推進しており、新たな国家競争の様相が色濃くなっている——核動力をいち早く図面から宇宙へと送り出した国が、深宇宙のルール形成において主導権を握る可能性がある。

四、二つの曲線が示す共通の命題

一見無関係なこの二つの事柄は、実は同じ問題を指し示している。技術の進歩速度が、ガバナンスと公共的議論の吸収速度を上回っているということだ。AIの日常的被害には忍耐強く地道な制度構築が必要だ——監査基準、データの透明性、責任の配分。核動力宇宙開発には、高リスク技術が受け入れられる前にまず理解されるための、国際的な安全の枠組みと情報公開のメカニズムが必要だ。

一般の読者にとって、今号のニュースレターが示す示唆はこうかもしれない。真のテクノロジーリテラシーとは、最先端の突破を追いかけることだけではなく、静かに進行している変化を見極めることでもある。破滅的想像は私たちを警戒させ続けるが、日常的被害への継続的な関心だけが、「安全」をスローガンから手の届く生活の質へと変えていく。

本稿はMIT Technology Reviewより編訳