AnthropicがMETRに拒否権を放棄、従業員レベルのアクセス権を付与

AI安全評価における「第三の道」

AIの安全ガバナンス分野において、業界が長年抱えてきた難題がある。それは「誰がフロンティアAIモデルのリスクを評価するのか」という問題だ。モデル開発者が自ら評価を行えば利益相反の疑いが生じ、一方で外部機関に完全に委ねれば、情報の壁によって評価が表面的なものにとどまりがちだ。今回、AnthropicとMETRの協力体制は、この難題に新たな答えを示そうとしている。

TechCrunchの報道によると、Anthropicは独立系AI安全評価機関であるMETR（Model Evaluation & Threat Research）に対し、従業員レベルの内部アクセス権を付与することに合意した。これにより、METRの研究者はAnthropicの従業員と同等のシステムアクセス権限を持ち、同社のモデル開発プロセス、安全対策、およびリスクインシデントの記録を詳細に把握できるようになる。

METRはAnthropicのリスク、インシデント、および業務慣行に関する評価報告書を独立して公表し、Anthropicはそれらの報告書の公表を阻止する権利を放棄している。

「従業員レベルのアクセス権」が意味するもの

「従業員レベルのアクセス権」という表現は一見シンプルだが、その意義は非常に大きい。従来のAI安全評価では、外部機関が接触できるのは通常、企業が入念に準備したデモ資料、選別されたドキュメント、あるいは厳重な監督下での限定的なシステムアクセスに限られていた。しかし従業員レベルのアクセス権があれば、METRは内部の人員と同様に、コードベース、社内コミュニケーション、セキュリティインシデントのログ、モデルの挙動記録といったコア情報を閲覧できる。

このレベルの透明性は、AI業界においてほぼ前例がない。技術の最前線に立つ企業にとって、外部機関に内部システムを開放することは、大きな信頼を必要とするだけでなく、営業秘密の漏洩リスクや安全審査のプレッシャーを甘受することも意味する。Anthropicのこの決断は外部に対して明確なシグナルを発している。すなわち、同社は自社の安全対策に十分な自信を持ち、最も厳格な独立審査を受け入れる意志があるということだ。

拒否権の放棄：真の突破口

しかし、業界が真に注目しているのはアクセス権限そのものではなく、AnthropicがMETRの評価結果の公表を阻止する権利を自ら放棄した点にある。従来のサードパーティ評価モデルでは、被評価側は報告書に対する審査権、場合によっては拒否権を持つのが通例であり、これが評価の独立性と信頼性を一定程度損なってきた。被評価企業は機密情報を選択的に削除したり、報告書の公表を遅延させたりすることで、評価結論の適時性と完全性を失わせることができた。

Anthropicの今回の措置により、METRの評価結果が同社のイメージにいかなる影響を与えようとも、Anthropicはそれに介入したり削除したりすることができない。この「否決不可」の評価メカニズムにより、METRの報告書は真の意味での独立性と信頼性を持つことになる。AIの安全を中核的使命とする企業にとって、これは自己規律であると同時に、外部への約束でもある。

業界の背景と広範な影響

近年、AIの能力が急速に向上するにつれ、AIの安全ガバナンスは世界的な注目を集めている。各国政府、国際機関、研究機関は、フロンティアAIに対するより透明で独立した評価体制の構築を求めている。しかし、商業的利益や国家安全保障など複数の要因から、真の意味での独立評価は実践において困難を極めてきた。多くのAI企業は外部評価に慎重な姿勢を示し、厳選した情報のみを開示するにとどまっている。

AIモデル評価に特化した非営利組織であるMETRは、これまで主に政府から委託を受けてフロンティアモデルのテストを担い、AI安全評価の分野で豊富な経験を蓄積してきた。今回のAnthropicとの協力は、独立評価機関がフロンティアAI企業の内部運営に対して深度のあるアクセス権を初めて得たことを意味する。

このモデルが他のAI企業にも倣われるかどうかは、AIの安全ガバナンスの行方を観察する上で重要な指標となる。OpenAIやGoogle DeepMindなどの企業が同様の独立評価体制を受け入れるなら、業界全体の透明性と安全基準は質的な向上を迎えることが期待される。逆に、Anthropicの試みが示範効果を生み出せなければ、独立評価は依然として表面的なものにとどまる可能性がある。

編集後記

AnthropicがMETRに従業員レベルのアクセス権を付与し、拒否権を放棄したことは、AIの安全ガバナンス分野における大胆な試みといえる。これは明確なシグナルを発している。すなわち、AIの能力向上を追求しながらも、フロンティアAI企業は透明性において実質的な一歩を踏み出す意志を持つということだ。この取り組みの象徴的意義は、実際の評価としての価値をも上回る。それはAI企業と独立評価者の関係を再定義するものだ。

もちろん、この協力体制の実際の効果はまだ見守る必要がある。従業員レベルのアクセス権の開放範囲はどこまで及ぶのか。METRの評価方法と基準は十分に厳密か。Anthropicは一部の機密性の高い領域で例外を設けるのか。これらの問いへの答えが、このモデルが業界の標準となり得るかを左右する。

いずれにせよ、Anthropicの今回の取り組みはAI安全評価に新たな道筋を切り開いた。それは企業が自らの言葉で語るだけでもなく、外部機関が表面的に評価するだけでもなく、独立した評価者が真に「ボンネットの下に入り込み」、機械のあらゆる部品を見通せるようにするものだ。AIの能力が日増しに強大になり、リスクがますます複雑化するこの時代において、これこそがAI安全ガバナンスの向かうべき方向かもしれない。

本稿はTechCrunchより編集・翻訳