2026年9月9日、OpenAIはポール・クリスチャーノ（Paul Christiano）を財団理事会のメンバーに任命し、カーネギーメロン大学教授のジコ・コルター（Zico Kolter）が主導する安全・安保委員会にも参加させると発表した。同委員会はOpenAIの全モデルのリリースに対する最終的な裁量権を持つ。クリスチャーノはまた、OpenAI Group PBC取締役会に非議決権のオブザーバーとして出席する。
クリスチャーノはかつて公開の場で、「AIの能力が急速に加速することで、ごく近い将来に壊滅的かつ不可逆的な制御の失敗が生じる可能性は、無視できない水準にある」と記し、「OpenAIを含むAI業界は現在、このリスクを許容可能な水準まで低減する軌道に乗っていない」と名指しで述べていた。AI安全分野において最もよく知られた外部批判者の一人が、自ら公然と批判していた組織のガバナンスの核心部に加わることになった。
RLHFからアライメント研究へ――クリスチャーノとは何者か
クリスチャーノは強化学習からの人間フィードバック（RLHF）技術の中心的な創始者である。RLHFは現在ほぼすべての主流大規模言語モデル――GPTシリーズ、Claudeシリーズを含む――においてモデルの挙動を人間の選好に合わせるための核心的な学習手法だ。人間のアノテーターがモデルの出力を優劣で順位付けし、それをもとに「報酬モデル」を訓練し、最終的にその報酬シグナルを使って強化学習により言語モデルをさらにファインチューニングする。RLHFがなければ、今日の対話型AIはおそらく制御不能なテキスト補完機械にとどまっていただろう。
クリスチャーノは2021年までOpenAIでアライメント研究チームを主導し、その後離れて非営利機関のアライメント研究センター（ARC）を設立、前線AIモデルのサードパーティ評価に特化したMETR（Model Evaluation and Threat Research）を育て上げた。2024年には米国NIST人工知能安全研究所（現在はAI標準・イノベーションセンターに改称）のAI安全責任者に就任し、米国政府における先端AI安全政策の中枢技術顧問となった。
安全委員会の実質的権限と回避条項の境界
クリスチャーノが加わった安全・安保委員会は、OpenAIのガバナンス構造においてモデルリリースに対する最終的な裁量権を持ち、「Astra」モデルに対する最終判断がその具体例として明記されている。これは安全委員会の決断が実質的に製品チームのリリース意向を上回ることを意味する。
任命とともに公表された強制回避条項は、クリスチャーノがOpenAI関連のすべての事務およびすべてのモデル評価業務を忌避することを義務付けている。最終的なリリース拒否権を持つ委員会メンバーが、制度的に「モデル評価」という意思決定の前置プロセスから排除されていることになる。
安全委員会の職責は「安全基準とガバナンスの枠組みを策定する」層と「具体的なモデルが基準に適合しているかを判断する」層に区別できる。前者はモデル評価データに依存しないが、後者は直接依存する。しかしこの区別が実際の運用において明確に機能するかどうかについては、現時点で公開された運用細則は存在しない。
構造的矛盾――外部評価機関の創設者が被評価者のガバナンス中枢に座る
METRはAI業界における独立したサードパーティ評価体制の中核機関として広く認識されており、その存在意義はまさに機関としての独立性を前提としている。METRが規制当局や公衆に対してOpenAIモデルの安全評価報告を提出する際、外部から正当な疑問が提起されうる。評価者の創設者が被評価者の理事会に座っているとき、その報告書の独立性はどのように保証されるのか、と。
複数の情報源によれば、クリスチャーノのNISTにおける職責は先端モデルの評価を含むが、強制回避条項によりOpenAIモデルの評価に関与することは禁じられている。これは実務上、Anthropic、Google DeepMindなど競合他社のモデルは評価できる一方、OpenAIのモデルについては目を向けることができないことを意味する。この非対称性は政府側における彼の役割の完全性に影響するだけでなく、競争環境にも潜在的な影響をもたらす。
なぜOpenAIは今このタイミングで彼を迎えたのか
2025年から2026年にかけて、AI能力の急速な跳躍により、安全コミットメントの信頼性に対する圧力は高まり続けた。財団理事会議長のブレット・テイラー（Bret Taylor）は公式声明で、クリスチャーノを「厳格な研究でAIアライメント分野を定義し、ますます強力化するシステムが提起する最も難しい問題に一貫して取り組んできた」と評した。OpenAIは安全コミュニティにおいて揺るぎない信頼性を持つ人物を必要としており、そのガバナンス構造を裏付けてもらおうとしている。
クリスチャーノは声明の中で「過去一年のAI能力の進歩は非常に急速であり、アライメントは依然として困難な技術的問題であり続けている。このことが安全・安保委員会の責任をかつてないほど重要かつ困難なものにしている」と記した。この職を受け入れたことは、字義通りに解釈すれば、内部から圧力をかけることが継続的な外部批判よりも実質的な効果を生む可能性が高いと彼が判断したことを示している。
しかしそれはまた、任命を受けた後、OpenAIに対する公開の場での批判を抑制することも意味する。かつて公開の記事で「OpenAIは正しい軌道にない」と名指しで書いていた人物が、理事会に入った後も公然と名指し批判を続ければ規範上の衝突が生じ、沈黙を保てば外部から「飼いならされた」のではないかという疑念を招く。これはガバナンス構造が批判者に対して課す系統的な制約である。
AIガバナンスの生態系に対するシグナルとしての意味
この任命は、規制圧力下においてAI業界が選択する普遍的なパターンを映し出している。最も力強い批判者を体制内に取り込み、制度的な仕組みを通じて批判を内部ガバナンスの圧力へと転換し、同時に「最も厳しい声をすでに迎え入れた」という事実を外部の疑問への回答として用いるというパターンである。
外部の批判者が内部チャネルを通じて実質的な影響を与えることは確かに可能だ。ただしその前提は、ガバナンス構造が単なる象徴的な席ではなく、真の意思決定権限を与えていることである。安全・安保委員会はモデルリリースに対する「最終裁量権」を持つと説明されており、これは形式上クリスチャーノに実質的な拒否権の余地を与えている。
問題は、強制回避条項という制約のもとでその権限が有効に行使できるかどうかについて、現時点では十分な公開情報がなく判断できないことだ。モデル評価に関与できないという規定が、実質的に無害な手続き上のファイアウォールなのか、それとも委員会の最も核心的な議題において彼を不在にさせる制度的な錠前なのか――それは安全委員会が実際の運用において「評価」と「意思決定」という二つのプロセスをどのように区別するかにかかっている。
クリスチャーノはこれまで米国政府のAI安全責任者とMETR創設者という二重の役割をすでに担っていたが、OpenAI理事会への参加により、政府・独立評価機関・被評価対象という三つの次元における関係を同時に持つことになった。このような役割の重複はグローバルなAIガバナンスの実践においてほとんど前例のない事例である。その危うさは、三重の役割のうちいずれの当事者も「利益相反」を根拠として他の二者における彼の判断を問い質すことができ、それによって各役割における彼の実効性を系統的に損なうことができる点にある。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接