Anthropic、Claude Fable 5を発表：一般公開されるMythosレベルモデル

Anthropicは本日、最新AIモデルClaude Fable 5を正式に一般公開すると発表しました。これは同社初のMythosレベルの公開モデルであり、Anthropicが先進的なAI能力と安全性・制御性の間に新たなバランスポイントを見出したことを示しています。

Mythosシリーズ：安全性と能力の二重イテレーション

Anthropicがこれまでに発表したモデルは複数の等級に分かれています：基礎級（Base）、改良級（Improved）、そしてこれまで内部テストのみに使用されていたMythos級です。Mythosシリーズは、強力な推論能力を維持しつつ、最も厳格な安全ガードレールを内蔵するよう設計されています。Claude Fable 5はまさにこの理念の集大成であり、複雑なタスクにおいて人間の専門家に近いレベルを発揮できる一方、サイバーセキュリティ、バイオテクノロジー、化学兵器などの高リスク領域に関わる場合、悪用または誤導の可能性のあるコンテンツの生成を自発的に拒否します。

「AI能力の飛躍的進化は、いずれも新たなリスクをもたらす可能性があることを我々は深く認識しています。Fable 5のリリースは、責任あるAIの道のりにおける重要なマイルストーンです。」——Anthropicセキュリティチーム責任者

公式発表によると、Fable 5は複数のベンチマークテストで前世代モデルを上回る性能を示し、特に数学的推論、コード生成、マルチターン対話の一貫性において30%以上の向上を達成しました。しかし、その最もユニークな価値は安全アーキテクチャにあります。モデル内部には階層型安全システムが組み込まれており、約97%の高リスククエリを識別・遮断すると同時に、低リスクのシナリオではユーザーにより開放的な回答を提供できます。

業界背景：AI安全競争の激化

Anthropicによる今回の発表時期は意味深長です。先週、OpenAIは最新モデルGPT-6を発表し、同様の安全制約措置を打ち出しました。同時に、Google DeepMindも「Constitutional AI」のアップグレード版を研究しています。業界全体が「能力競争」から「安全競争」へと移行しつつあります。Anthropicが新モデルに「Fable」（寓話）という名前を選んだのは、AIが語るのは制御可能で安全な未来の物語であり、暴走した悪夢ではないことを願う意図を示唆しているのかもしれません。

編集部注：Fable 5の安全戦略は完璧というわけではありません。テストでは依然として3%の高リスククエリが誤って通過しており、また、オープンドメイン対話における「過剰拒否」現象がユーザー体験に影響する可能性があります。これは、AIの安全性は常に継続的な攻防戦であり、一度きりの解決策ではないことを我々に思い起こさせます。

今後の展望：研究室から一般公開への困難な飛躍

Mythosレベルのモデルを一般ユーザーに公開することは、Anthropicが2つの核心的な課題を解決しなければならないことを意味します。第一に、悪意のないユーザーの創造性を過度に抑制しない方法。第二に、悪意あるユーザーが安全メカニズムを回避するのを防ぐ方法。Anthropicの答えは「動的許可」メカニズムです。ユーザーの利用履歴、意図分析、クエリのコンテキストがリアルタイムで評価され、モデルの安全レベルはリスクスコアに応じて自動的に調整されます。この設計は業界初の試みです。

しかし、安全専門家はこれに慎重な姿勢を示しています。カーネギーメロン大学のAI安全研究者は次のように指摘します：「ルールベースのあらゆる防護策にはリバースエンジニアリングされる可能性があります。真の安全性には、モデル自身が内在的な倫理判断を持つことが必要であり、外部のガードレールだけでは不十分です。」Fable 5のリリースは、Anthropicの長期計画の第一歩に過ぎないかもしれません。同社はこれまでに、外部のガードレールなしで自己抑制できる「完全アラインメント」モデルを開発中であることを明かしています。

本記事はTechCrunchより編訳