ホワイトハウスとAnthropic：Claude Fable 5をめぐるリスク論争は決着つかず

現地時間の月曜日、AI新興企業AnthropicのトップチームがワシントンDCへ緊急飛行し、ホワイトハウス高官との非公開会議に臨んだ。事情に詳しい関係者によると、数時間に及ぶ会談の中で、双方はAnthropicの最新モデル「Claude Fable 5」の潜在的な安全リスクをめぐって激しい議論を繰り広げた。しかし、会議が終了しても両者は合意に至らず、意見の相違は依然として大きいままだ。

会議の背景：Claude Fable 5が注目を集める

OpenAIの元社員が創業したAnthropicは、「責任あるAI」を中核理念に掲げ、同社が開発するClaudeシリーズのモデルは安全性で知られている。しかし最新バージョンのClaude Fable 5は、推論・創造的生成・長文理解といった領域で大きな飛躍を遂げ、能力が大幅に向上したとされている。こうした進歩が、規制当局の強い警戒感を引き起こしている。ホワイトハウス科学技術政策局（OSTP）はかねてから非公式に、Claude Fable 5が「デュアルユース技術」的な特性を持つ可能性があると指摘していた——すなわち、科学研究で多大な効果を発揮する一方、誤誘導情報の生成やサイバー攻撃の自動化にも悪用されうるということだ。

「政府の懸念は理解しています。しかし私たちは、Claude Fable 5の安全設計が業界最高水準に達していると確信しています。」——Anthropic広報担当者、会議後の声明

ホワイトハウス側の懸念はさらに具体的だ。WIREDが独自に入手した情報によると、国家安全保障会議（NSC）の専門家チームがClaude Fable 5の非公式評価を実施し、その自律的意思決定能力が特定のエッジケースにおいて制御の範囲を超える可能性があると判断した。匿名を条件に取材に応じたホワイトハウス高官は「これは単純な技術的問題ではない。国家安全保障の根幹に関わる問題だ」と述べた。

対立の核心：リスク評価方法論をめぐる争い

双方の争点は、リスク評価の方法論にある。Anthropicは自社が独自に開発した「Safety-by-Demand（安全オンデマンド）」フレームワークの採用を主張し、モデルのデプロイ後に行動制約を動的に調整することでリスクを効果的に管理できると考えている。しかしホワイトハウス側は、こうした事後的な管理モデルには遅延が生じると主張する——モデルが広範に配布されてしまえば、脆弱性の修正は極めて困難になるというのだ。ホワイトハウスはAnthropicに対し、リリース前により厳格な「レッドチームテスト」を実施し、その結果を公開するよう求める姿勢を示している。

注目すべき点として、これはAnthropicが政府と摩擦を生じさせた初めてのケースではない。2024年には、Claudeモデルの軍事用途への使用許諾を国防総省に対して拒否したことで大きな波紋を呼んだ。今回のワシントン訪問は、ある意味でAnthropicが連邦政府との関係修復を試みる機会でもあったが、会談の結果は明らかに期待通りにはならなかった。

業界の背景：AIガバナンスをめぐるグローバルな袋小路

今回の会談の背景には、世界規模でのAIガバナンス競争の激化がある。EUはすでに「AI法」を通じて段階的な規制体系を確立している一方、米国はいまだに業界の自主規制と大統領令が並行する段階にとどまっている。ホワイトハウスが2023年10月に発出した初のAI大統領令は、連邦機関にAIシステムの潜在的リスクを評価するよう求めているが、その執行力は一貫して疑問視されてきた。Anthropicとホワイトハウスとのこのたびの対立は、本質的にはより深い問題を浮かび上がらせている——企業が「安全性」を中核の売り文句にしているとき、政府は企業の自主規制能力を信頼すべきなのか、という問いだ。

編集部はまた、Anthropicの創業者であるDario AmodeiとDaniela Amodeiが、様々な場でAIの独立監査機関の設立を呼びかけてきたにもかかわらず、具体的な規制要求に直面すると強い抵抗を示すという矛盾にも注目している。こうした矛盾した心理は、すべての先端AI企業にほぼ共通して見られる——競合他社に対する政府規制は望む一方、自社が縛られることには難色を示すのだ。Claude Fable 5をめぐる論争は、まさにこうした心理の典型的な表れと言える。

今後の展望：駆け引きはさらに激化か

会談後、Anthropicは「ホワイトハウスとの建設的な対話を継続していく」との短い声明を発表した。しかしホワイトハウス側は、合意が得られない場合、「国防生産法」を援用してClaude Fable 5の展開に一時的な制限を課す可能性を示唆した。これは、このモデルをめぐる論争が終息にはほど遠いことを意味しており、米国AI規制史における画期的な事例となりうる。

WIREDは今後の報道においても、ホワイトハウスとAnthropicの最新動向を引き続き追跡していく。結果がどうあれ、この攻防は世界のAIガバナンスに対して重要な参照軸を提供することになるだろう。

本記事はWIREDより編訳