米国がAnthropicのFable 5公開を禁止、しかし市場データは動じず

先週末、米国政府は国家安全保障を理由に、AnthropicがリリースしたばかりのAIモデルFable 5およびMythos 5の公開を強制撤回させた。この措置は、Amazonの研究者がFable 5に内蔵された安全ガードレールを回避できる技術を発見したと主張したことに端を発している。禁止令は突然かつ厳しいものだったにもかかわらず、市場データは異様なほど静かな反応を見せた——株価に大きな変動は見られず、ユーザーの採用率も安定を維持している。この現象はAI規制と技術発展のバランスをめぐる幅広い議論を呼び起こしている。

「セキュリティの脆弱性」をめぐる攻防

事情に詳しい関係者によると、AmazonのセキュリティチームがFable 5の内部テストを実施した際、特定のプロンプトインジェクション技術を発見した。この技術を使うと、モデルが本来禁止されているコンテンツを出力するよう誘導できるという。この技術は直ちに米国連邦安全機関に報告され、その後政府は《2024年人工知能インフラ法》の緊急条項を援用し、Anthropicに対して新モデルへの公開アクセスを即時停止するよう求めた。Anthropic側は、この脆弱性はFable 5に固有のものではなく、GPT-5やGemini Ultraなど他の主要な大規模言語モデルにも同様のジェイルブレイク手法が存在すると指摘しており、すでに修正に着手していると述べた。

「エコシステム全体に共通する脆弱性を考慮することなく、単一のモデルに禁止令を課すことは、近視眼的で危険な規制行為である。」——700名以上のサイバーセキュリティ研究者が署名した公開書簡より。

なぜ市場はこれほど冷静なのか？

ベテランのテック投資家の観点からすれば、禁止令の短期的な影響は過大評価されている可能性がある。一方では、Fable 5がリリースされてからわずか2日しか経っておらず、企業顧客への大規模な展開はまだ始まっていなかった。もう一方では、Anthropicの主力モデルであるClaude 4は影響を受けておらず、コアビジネスは正常に稼働している。さらに多くのアナリストが指摘するように、AI業界の競争優位性は継続的なイテレーション能力にあり、単一モデルの一時的な制限はAnthropicの技術チームに対する投資家の信頼を揺るがすものではない。ナスダックのAIセクター全体の動向もこれを裏付けており、禁止令の発表後、Anthropicの関連株はわずか0.8%の下落にとどまり、翌日には早くも元の水準に回復した。

編集後記：市場は規制の風向きを盲目的に追うのではなく、「足で投票する」術を身につけたようだ。これはAIセキュリティをめぐる論争において、実際の応用価値が政策への恐怖心に取って代わり、価格形成の核心的要因になりつつあることを示しているのかもしれない。しかし長期的に見れば、政府が一時的な禁止令を常態化させれば、業界全体のイノベーションのペースは深刻な打撃を受けるだろう。

業界への問いかけ：安全柵のパラドックス

Fable 5をめぐる事件は、現在のAIセキュリティガバナンスが抱える大きなジレンマを露わにした。モデル提供者であれ政府の規制当局であれ、あらゆる攻撃経路を事前に予知することは不可能だということだ。Amazonの研究者による発見は悪意のあるものではなく、通常のセキュリティ監査の成果だったが、結果として一つの製品が直接「封じ込められる」事態を招いた。これは業界における「技術的コンプライアンス」の見直しを促している——脆弱性が発見されるたびに標準的なパッチ適用プロセスではなく行政命令で対処するとなれば、AI製品の市場投入サイクルは予測不可能となり、オープンソースエコシステムの意欲を削ぐことになりかねない。

Anthropicは公式声明の中で、同社は常に最高水準の安全基準に従っており、AIセキュリティ分野において政府との建設的な対話に応じる意向があると強調した。一方、複数の情報源によれば、米国商務省は新たな業界指導原則の策定を進めており、現行の個別案件ごとの禁止令に代わる「セキュリティ脆弱性の自動通報と期限付き修正」メカニズムの構築を検討しているという。この原則が実施に移されれば、類似する事案に対してより実行可能な解決策が提供されることになるだろう。

本記事はTechCrunchより編訳