AIと生物兵器の影：バイオテクノロジー業界への警鐘

編集者注：AI企業のトップが自分たちの構築しているものがいかに危険かを公言し始めた今、これはもはやSFの話ではなく、バイオテクノロジー業界全体が正面から向き合わなければならない問題である。

ここ数週間、AI業界にある注目すべき現象が起きている。世界最大級のAI企業の幹部たちが、自らが推進する技術に対して警告を発し始めたのだ。AnthropicのCEOダリオ・アモデイ氏は、AIには深刻なリスクがあり、業界はペースを落とすべきだと公言した。OpenAIのCEOサム・アルトマン氏はXでこれに応じ、「ペース管理の必要性」に関するアモデイ氏の判断には同意するとしながらも、主導権を他者に譲り渡すのは賢明ではないと強調した。

週末に起きたこの公開論争は、AI大手における「安全」と「速度」をめぐる葛藤の繰り返しとして外部に受け止められた。しかしバイオテクノロジー業界が真に警戒すべきなのは、論争そのものではなく、議論の中で繰り返し言及されたリスクの種類だ。その中で最も差し迫った問題として広く認識されているのが、AIが生物兵器製造の敷居を大幅に下げる可能性である。

なぜ「生物」はAIリスクリストの最上位に位置するのか

AIがもたらす壊滅的リスクの想定の中で、生物兵器が繰り返し名指しされる理由は明快だ。極めて高い破壊力と相対的に低い技術的敷居を同時に持ち合わせているからである。巨大な工業体制を必要とする核兵器とは異なり、生物的脅威の出発点は、ひとつの遺伝子配列、一枚の実験プロトコル、そして規模の小さな実験室だけかもしれない。

これまで障壁となってきたのは「知識の壁」だった。危険な病原体の改変、毒素の合成、タンパク質の安定性や毒性を高める設計には、何年もの専門的訓練が必要だった。ところが大規模言語モデルは、文献・特許・教科書に散在する知識を迅速に統合・翻訳・再表現することを得意とする。研究者たちはすでに、既存のモデルが問い詰められると本来提供すべきでない操作的な詳細を与えうることを繰り返し実証しており、開発者がガードレールを設けても、回避策は次々と生まれている。

さらに注目すべきはタンパク質設計ツールだ。ここ数年、AIはタンパク質の構造予測とデノボ設計において飛躍的な進歩を遂げた。こうしたツールの正当な用途はワクチン・抗体・新薬の研究開発だが、同じツールが毒素の最適化や病原体の特性強化にも利用できる。ツールの「デュアルユース」性は、生物学においてほぼ必然的に存在するものだ。

なぜバイオテクノロジー業界が最前線に立たされるのか

AIが「知識」を提供するとすれば、バイオテクノロジー業界が提供するのは「実行能力」だ。今日では、デジタル化されたDNA配列さえあれば、誰でも商業合成会社に発注し、数日後には試験管に入った実物の遺伝子を受け取ることができる。卓上合成装置、クラウドラボ、自動化実験プラットフォームの登場により、「設計―構築―テスト」のサイクルはかつてないほど高速化している。

問題はここにある。AIが「思いつく」ことの敷居を下げ、バイオテクノロジーが「実現する」ことの敷居を下げる。この二つが重なると、リスクは線形に増加するのではなく、乗算的に膨らむ。だからこそ防御の第一線は合成生物学のサプライチェーンに置かれている。誰がDNAを合成しているのか、何を合成しているのか、スクリーニングは行われているのか、という点が鍵となる。

すでに築かれた防衛線、そしてその亀裂

近年、核酸合成スクリーニングをめぐるガバナンスの枠組みが相次いで整備されてきた。米国が以前発令したAIに関する大統領令は「AIと生物リスクの交差領域」を重点分野の一つとして挙げ、その後策定された核酸合成スクリーニングの枠組みは、合成業者に対して顧客および配列審査の統一ガイドラインを提供した。国際的には、バイオセキュリティに関するイノベーション・情報共有の仕組みや、世界保健機関の関連指導文書も国境を越えた協力を推進している。

しかし亀裂は依然として明らかだ。スクリーニングは現在主に大手商業合成業者をカバーしているが、卓上合成装置、一部のクラウドラボ、分散した小規模サプライヤーは統一的な監督の外に置かれている。スクリーニング基準も国や企業によって一貫しておらず、既知の病原体リストとの照合のみを行う場合もあるが、そのリストは常に新たな設計に遅れをとっている。さらに、AIが生成した配列は「最適化」されている可能性があり、既知の危険な配列との類似度が極めて低く、従来の照合手法では見逃されやすい。

「真の難点は、スクリーニングをするかどうかではなく、何をスクリーニングするか、誰が危険を定義するか、そして合法的なバイオエコノミーのイノベーションを守ることと悪用を阻止することの間にどこで線を引くかにある。」

速度と安全：単純な答えのない綱引き

アモデイ氏とアルトマン氏の対立は、ある意味でこの綱引きの縮図だ。減速を主張する側は、安全評価・スクリーニング機制・監督能力が追いつく前は、能力が高まれば高まるほどリスクも大きくなると考える。加速を主張する側は、過度な自制が主導権を規制の緩い競合他者に譲り渡すことになり、かえってグローバルなリスク管理を難しくすると懸念する。

バイオテクノロジーの実務者にとっては、どちらの立場に立つにせよ、もはや避けられない事実がある。彼らはAIリスクの傍観者ではなく、連鎖の中の重要な結節点なのだ。合成企業はより厳格な顧客本人確認と配列スクリーニングを必要とし、クラウドラボはログの保存と異常行動の検知を、学術誌やプレプリントプラットフォームは機密情報の公開範囲の再考を、そしてモデル開発者は生物リスク評価をトレーニングと展開のプロセスの前段階に組み込むことを求められる。

より現実的な道筋は「技術＋ガバナンス」の二軌道並行推進かもしれない。AIそのものを用いて悪用の意図を検知し、不審な配列設計や実験リクエストを識別する。同時に、スクリーニングリストや脅威情報を迅速に更新できるよう、業界横断・国境横断の情報共有メカニズムを構築する。安全とはイノベーションの対立物ではなく、イノベーションを持続可能にするための前提条件だ。

結語

AI企業トップによる公開警告は、未来への予言というより、現在への喚起として受け止めるべきだ。命を救うことが証明された技術は、同様に人を傷つけるためにも使われうる。バイオテクノロジー業界はこの二面性とともに数十年を歩んできた。組み換えDNA技術の誕生時に研究一時停止が呼びかけられた時から、今日のゲノム編集や合成生物学に至るまで。異なるのは、今回の加速装置がAIであり、ペースはより速く、参入の敷居はより低く、業界が対応するための時間的余裕がより短いという点だ。

警鐘はすでに鳴り響いている。次に問われるのは、バイオテクノロジー業界が次の能力の跳躍が訪れる前に、先んじて扉に鍵をかける意思があるかどうかだ。

本稿はMIT Technology Reviewより編訳。