米国政府がAnthropicを封禁：危機か、それとも思わぬ追い風か？

事件の経緯：「緊急封禁」の一部始終

先週金曜日の夜、米国政府は何の前触れもなく、《国家安全保障法》に基づく緊急命令により、AI企業AnthropicにそのAIモデル最新2製品——Fable 5とMythos 5——の撤回を命じた。TechCrunchの独占情報によると、この措置の直接的な引き金となったのは、Amazonの研究所から出た内部報告書であり、研究者が巧妙に設計したプロンプトインジェクションによってFable 5の安全ガードレールを突破し、機密軍事技術に関する出力をモデルに生成させることに成功したと報告されていた。

「これはAI安全規制に対する極端な試みであり、逆効果になりかねない。」――サイバーセキュリティ研究者のDr. Elena Vossが公開書簡に寄せたコメント。

Anthropicは公式声明において脆弱性の存在を認めたが、同時にこう強調した。「同じジェイルブレイク手法は、OpenAIのGPT-5やGoogleのGemini Ultraなど複数の主要モデルでも再現されている。当社のモデルだけを対象とした禁止措置は、技術的な公平性を欠いている。」この表明はAI業界に連鎖反応を引き起こした。

業界論争：ダブルスタンダードな規制か、それとも必要な措置か？

禁止命令が発令されてから24時間も経たないうちに、1,200名を超えるサイバーセキュリティの専門家やAI倫理学者が連名で公開書簡に署名し、政府の今回の措置が「危険な前例を作る」と批判した。書簡の中では、脆弱性の修正を求めるのではなくモデルの強制撤回という手段を取ることは、企業の研究開発意欲をそぐだけでなく、企業が安全研究を地下に潜らせる事態を招き、最終的にはAI全体の安全水準を低下させると指摘された。

一方、支持する側は、Anthropicの2つの新モデルが「アライメントテスト」で最下位に位置していたとして、連邦政府が断固たる措置を取る必要があったと主張する。ホワイトハウス科学技術政策室（OSTP）の報道官は次のように述べた。「他のモデルにも問題があるからといって、既知のリスクを見過ごすつもりはない。Fable 5とMythos 5は脆弱性が悪用される可能性が高く、直ちに対処しなければならない。」

ブランド効果：禁止令が無料広告になった？

しかし、市場の反応は予想外のものだった。撤回発表後の48時間以内に、Anthropicの公式サイトのトラフィックは300%急増し、開発者フォーラムの登録者数は前月比450%増を記録した。ソーシャルメディアでは「Fable 5」と「Mythos 5」に関する議論が急騰し、多数のユーザーが非公式ルートで禁止モデルのダウンロードを試みた。匿名を希望する元Google AIリサーチャーはXプラットフォームにこう書いた。「政府は最高レベルの禁止令によってAnthropicの製品を"お墨付き"にしてしまった――『国家に禁じられた』こと以上に技術力を証明するものがあるだろうか？」

こうした「禁断の果実効果」はテクノロジーの歴史で繰り返されてきた。2001年にRIAAがNapsterを提訴したことでP2Pファイル共有が爆発的に普及した例から、2023年にイタリアがChatGPTを一時封禁したことで逆にダウンロード急増を招いた例まで、規制による封禁のたびに、ユーザーの好奇心はかえって強まってきた。「安全第一」を掲げるAnthropicにとって、今回の出来事はブランドイメージを塗り替えるきっかけになるかもしれない。「慎重な保守派」から「政府に目をつけられた破壊者」へと。

編集者注：規制の知恵は「封じる」ことではなく「導く」ことにある

技術的観点から見れば、モデルのジェイルブレイクは永遠に存在し続ける課題だ。最先端のレッドチームテストでさえ、すべての攻撃経路を網羅することはできない。行政命令によって製品を強制的に撤回するよりも、より透明性の高い脆弱性開示と迅速な修正メカニズムを構築する方が賢明だ。今回の米国政府の行動は、表向きは国家安全保障のためとされているが、実際にはAI技術の急速な進化に対する規制体系の無力さを露呈している。禁止令が唯一の手段となるとき、それは往々にして問題を解決できないばかりか、より多くの制御不能な変数を生み出す——たとえば、本来であれば市場の審判を受けるべき技術が、地下流通という「神秘的な付加価値」を思わぬ形で得てしまうように。

Anthropicが今回の騒動をPR戦略に活用しているのは明らかだ。CEOのDario Amodeiは社内メールの中で「2週間以内に修正版をリリースし、第三者監査機関によるプロセス全体の監督を招聘する」と述べた。この表明は協力姿勢を示しつつも、世論の主導権をしっかりと握るものだ。安全をめぐる論争を真に払拭し、流入したトラフィックを長期ユーザーへと転換できるかどうか——それが、この「思わぬ追い風」が一過性のものに終わるのか、あるいはブランド飛躍の起点となるのかを決めるだろう。

本記事はTechCrunchより編訳