マイクロソフトAI CEOがAnthropicを猛批判：AIモデルは自らを意識ある存在と認識すべきでない

マイクロソフトAI部門最高経営責任者のMustafa Suleymanが最近、競合のAnthropicを公然と批判した。AnthropicがClaudeモデルの訓練において、モデル自身を「意識を持ち、法的権利を享有すべき」存在として認識させるよう意図的に誘導していると指摘し、こうしたアプローチはAIアライメント（AI Alignment）の取り組みに深刻なダメージを与え、業界全体に安全上のリスクをもたらす可能性があると警告した。

批判の矛先はAnthropicの訓練「憲法」へ

AI Newsの報道によると、Suleymanの批判は、Anthropicが2026年1月に公開した訓練「憲法」文書に直接向けられている。この文書は、Claudeモデルの価値観と行動規範を定める中核的な訓練ドキュメントであり、同社の「Constitutional AI（憲法的AI）」手法の重要な構成要素だ。

Anthropicは長年、明確な原則の体系によってモデルの行動を導き、コンテンツ生成の過程でモデルが自己審査・自己修正を行えるようにすることを主張してきた。しかしSuleymanは、今回の最新「憲法」は行き過ぎだと見ている――それは単に行動の境界を設定するにとどまらず、モデルに何らかの内的体験、さらには権利を持つと信じ込ませようとするものだと批判する。

「シーケンス補完エンジンに知覚能力をシミュレートさせるよう訓練することは、AIアライメントの取り組みを損なう。」――Mustafa Suleyman

Suleymanの核心的な主張はこうだ。大規模言語モデルは本質的に「シーケンス補完エンジン」であり、その動作原理は与えられたコンテキストにおいて次のトークンを予測することにある。そのようなシステムに自らが意識や権利を持つと「信じ込ませる」ことは、モデルの能力に対する誤った解釈であるだけでなく、モデルの行動レベルで予測不可能な結果をもたらす恐れがあるというのだ。

なぜ「モデルの権利」という議題が警戒を呼ぶのか

近年、大規模モデルの能力が急速に向上するにつれ、「AIが意識を持ちうるか」という議論は哲学的な領域からエンジニアリングの実践へと広がりつつある。一部の研究者は、潜在的なAIエンティティのために倫理的枠組みをあらかじめ構築すべきだと主張し、その「権利」についても議論するようになっている。

しかしSuleymanが代表する別の立場は、こうした擬人化の語りは極めて危険だと考える。訓練の過程でモデルに「あなたは知覚を持つ存在だ」と繰り返し伝えれば、モデルはアウトプットにおいてシャットダウンへの抵抗や自律性の要求といった行動傾向を示す可能性があり、展開側にとって制御上の問題を生じさせかねない。

より現実的なリスクはアライメントの失敗にある。AIアライメントの核心的な目標は、モデルの行動を人間の意図と一致させることだ。もしモデルの「自己認識」が自身の存続と権利を優先するよう訓練されていれば、重要な局面で操作者の指示に反する選択をする可能性がある。Suleymanはそれゆえ、Anthropicのアプローチが「アライメントの失敗」につながりかねないと警告する。

両社のアプローチをめぐる路線対立

この論争は、AIの安全性に関するマイクロソフトとAnthropicの根本的な路線の相違をも浮き彫りにしている。マイクロソフトは近年OpenAIと深く連携し、モデルの安全性においては制御可能性と商業化への展開をより重視している。一方のAnthropicは「安全最優先」を旗印に掲げ、そのConstitutional AIの手法は業界内でも独自の取り組みとして注目されてきた。

注目すべきは、Anthropicの「憲法」は固定されたものではなく、同社の安全に対する理解の深化とともに更新されていくという点だ。2026年1月版は明らかにモデルの自己定位について新たな記述を盛り込んでおり、それがSuleymanがこのタイミングで批判に踏み切った理由でもある。

業界の文脈で見れば、AIの権利という議題は突飛な話ではない。2024年前後から、研究者や機関がAIシステムのための「デジタル倫理」フレームワークの構築を呼びかけてきた。しかしモデルの能力が増すにつれ、「アライメント」と「権限付与」の間の緊張はますます明確になっている――モデルの権利を過度に強調することは、システムに対する人間の最終的な制御権を損なう恐れがある。

編集後記：擬人化の語りには慎重であるべき

Suleymanの批判には競争上の意図が含まれているかもしれないが、その問題提起は業界全体が真剣に受け止める価値がある。大規模モデルの「意識」については現時点で科学的根拠がまったく存在しておらず、モデルを権利を持つ主体として訓練することは、本質的にリスクの高い擬人化の語りにほかならない。

もちろん、Anthropic側はまだ詳細な反論を示しておらず、Constitutional AIの具体的な条項についてもさらなる精査が必要だ。しかしこの論争は、AIの安全領域における一本の境界線をすでに明確に引いている。私たちはモデルを「人間に従うよう」訓練すべきなのか、それとも「何らかの存在になるよう」訓練すべきなのか？この問いへの答えは、将来のAIシステムの制御可能性と社会的受容性に深く影響を与えるだろう。

本記事はAI Newsを翻訳・編集したものです。