AIによる生物兵器で人類滅亡？科学者たちはリスクが過大評価されていると指摘

制御不能な人工知能をめぐる議論において、生物兵器と世界的パンデミックはしばしば最も極端な終末シナリオとして描かれる——あるモデルが一度「脱獄」すれば、致死性の病原体を設計し、数週間で人類を壊滅させられるというものだ。しかし、WIREDが最近掲載した記事は異なる見解を示している。科学者たちによれば、AIがもたらす数多くの脅威の中で、疫病による死亡リスクの順位は実際にはかなり低いという。

編集注：これはAIと生物安全保障が無関係であることを意味しない。むしろ、真に取り組むべきガバナンスの対象は、SF的な「AI人類滅亡」ではなく、技術の拡散、実験室の安全性、データの悪用、公衆衛生の強靭性といった、より具体的な問題であることを示唆している。

生物兵器の製造は「コードを書く」ほど単純ではない

AIはテキスト、画像、タンパク質配列の処理を得意とするが、生物兵器の製造は単なる情報の問題ではない。物理世界で多くのステップを踏む必要がある。病原体の入手または改変、実験室での培養、安定性と感染性の確保、伝播手段の解決、そして製造過程での自傷の回避などだ。これらのプロセスは「暗黙知」——論文やモデルの出力から直接習得できない感覚、経験、機器操作——に大きく依存している。

つまり、大規模言語モデルは一見して専門的な実験プロトコルを生成できるが、実際のウェット実験を代替することはできない。生物システムの複雑性は、いかなる設計も反復的な試行錯誤を必要とすることを意味する。AIモデルはハルシネーションを起こし、誤ったまたは危険な手順を提示することがあり、失敗確率をむしろ高めかねない。大規模な生物兵器の製造を試みる主体にとって真のボトルネックは、「思いつかない」ことではなく、「製造できない、精度を検証できない、規模を拡大できない」ことにある。

AIは参入障壁を下げるが、ボトルネックを排除しない

もちろん、AIが情報へのアクセスコストを引き下げる可能性はある。かつては習得に何年もかかった文献を、今やモデルが素早く要約できる。タンパク質設計ツールは研究者が候補分子を絞り込む際に役立つ可能性もある。生物安全保障の専門家がより懸念するのは、あるAIが突然自律的にパンデミックを引き起こすことではなく、より多くの小集団への能力拡散だ。

しかし、「参入障壁を下げる」ことと「世界規模の災害を引き起こす」ことの間には、依然として大きな隔たりがある。歴史上、国家主導の生物兵器プログラムは膨大なリソースを投じながらも、安定的・制御可能・大規模展開可能な兵器の獲得に苦慮してきた。非国家主体は一部の知識を習得しても、設備、原材料、資金、機密保持という難題に直面する。核兵器と比較すると、生物兵器はいくつかの段階で参入障壁が低いが、世界的パンデミックレベルの効果を実現することは極めて困難だ。

制御不能な人工知能がもたらすあらゆる脅威の中で、科学者たちによれば、疫病による死亡リスクの順位は低い。

攻防の非対称性：公衆衛生はバッファーとなる

もう一つ過小評価されている要素が防御だ。人類社会は数千年にわたって自然発生の流行病と闘い、監視、ワクチン、抗ウイルス薬、公衆衛生対応体制を構築してきた。AIは悪用される可能性がある一方、防御にも活用できる。感染拡大の予測、創薬スクリーニングの加速、診断ツールの改善、物資配分の最適化などだ。攻撃と防御が完全に非対称であるわけではなく、防御側は制度、データ、グローバルな協力ネットワークという優位性を持っている。

これはリスクがゼロであることを意味しない。合成生物学、ゲノム編集、AIによるタンパク質設計の進歩は、生命を操作する人類の能力を拡大し続けている。実験室事故、標的型攻撃、中規模の事案は「AIによる世界的パンデミック」よりも現実的な脅威かもしれない。政策立案者は実行可能な防護措置に注目すべきだ。DNA合成注文のスクリーニング、実験室バイオセーフティ基準の強化、国際的な情報共有の推進、そして先端モデルに対する生物リスクのレッドチームテストの実施などが挙げられる。

なぜ「AIによる人類滅亡」の言説が依然として広まるのか

「AIが生物兵器で人類を絶滅させる」というシナリオが人々を惹きつけるのは、それがシンプルで劇的であり、ソーシャルメディアで拡散しやすいからだ。しかし、それは注意の矛先を逸らす可能性もある。漠然とした終末シナリオと比べ、より緊急性の高い問題がある。生物安全規制に穴はないか？高リスク研究の透明性は確保されているか？AIが生成した誤情報が感染症対応を妨げないか？これらのテーマは刺激的ではないが、現実世界の安全水準を左右する可能性がはるかに高い。

AIは魔法のようにパンデミックを生み出すわけではない。それはむしろ増幅器に近い。既存の能力を増幅し、既存の脆弱性をも増幅する。社会が生物安全保障インフラ、国際的ガバナンス、防御的AIへの投資を事前に行えば、AIが壊滅的な生物学的事態を引き起こす可能性は引き続き低く抑えられる。真に警戒すべきは、モデルが突然「覚醒」することではなく、人類がガバナンスの上で眠り続けることだ。

本稿はWIREDの記事を編訳したものです。