Anthropicの新安全措置がトランプ政権を懐柔、Fable 5とMythos 5の規制解除へ

WIREDの報道によると、米国政府はAnthropicが提供するFable 5およびMythos 5の2つのAIモデルに対する制限を解除した。ただし、この「規制解除」にはコストが伴う。Anthropicはトランプ政権の信頼を回復するため、自ら進んで新たな安全措置を追加しており、双方の間で微妙なバランスが成立した形だ。

事件の背景：規制から解除へ

これ以前、トランプ政権は潜在的な国家安全保障リスクを理由に、Anthropicの高性能モデルに対して厳格な制限を課していた。Fable 5とMythos 5は、その強力な生成能力と悪用リスクから、輸出規制および展開禁止リストに加えられていた。しかしAnthropicがより厳格な安全機構の導入を約束したことで、政府は最終的に制限の撤廃に同意した。ただし情報筋によれば、この決定には定期的なサードパーティ監査やモデル動作レポートの公開を含む複数の暗黙の条件が付随しているという。

新たな安全措置とは何か

Anthropicが今回追加した「安全措置」は、多層的なアライメントシステムとして説明されており、モデルの出力前にリアルタイムで検知・遮断を行う機能を持つ。このシステムは有害コンテンツのフィルタリングをカバーするだけでなく、Constitutional AIの原則に基づく意思決定ツリーを導入し、センシティブなトピックにおいてモデルが中立かつコンプライアンスを維持することを確保する。AnthropicのCEOは社内書簡の中で、これは「受動的な妥協ではなく、規制を能動的に受け入れる姿勢の表れだ」と強調した。

編集者注：Anthropicの動きは孤立した事例ではない。AIガバナンスが厳格化する中、大手企業は「安全への約束」を通じて政策上のゴーサインを得ようとしている。この駆け引きの背景には、技術の自由と国家安全保障の間の永続的な緊張関係がある。トランプ政権はAI企業が「十分な安全マージンを欠いている」と繰り返し批判しており、Anthropicの選択は業界に新たなパラダイムを示すことになるかもしれない。すなわち、検証可能な透明性メカニズムによって行政上の障壁を解消するというアプローチだ。

業界への影響と論争

一部のセキュリティ専門家はこれに対して慎重な楽観論を示しており、政府と企業の良好な相互作用が安全プロトコルの標準化に寄与すると見ている。一方で、政治的圧力によってモデルの能力が「去勢」され、イノベーションの見通しが損なわれると批判する声もある。例えば、Fable 5はもともとコード生成や生物医学的推論において優れたパフォーマンスを発揮していたが、新たな安全措置によって多言語理解能力が大幅に削減される可能性がある。

注目すべきは、Anthropicが新措置の完全な技術的詳細を公開しておらず、今後3ヶ月以内にホワイトペーパーを発表することを約束するにとどめている点だ。この「先に約束し、後で公示する」戦略は、時間的な猶予を確保しつつ、その後の調整の余地も残している。

現在、Fable 5とMythos 5は一部の研究機関向けにAPIが再開放されているが、商業ユーザーは引き続き追加の審査を経る必要がある。トランプ政権の当局者は、モデルの使用状況を継続的に監視し、違反が発見された場合は「直ちに制限を復活させる」と表明している。

本記事はWIREDより編訳。