2026年11月13日、OpenAIはApollo Research、METR、Transluce、Goodfireの4つの独立研究機関と協定を締結し、同社が「第一段階組み込み評価」と称する取り組みを開始した。Apollo Researchは11月16日の公告において、同機関がOpenAI社内に6名の評価員を4か月間派遣し、AIモデルが自身または後継モデルに対する安全機構を能動的に転覆しようとするかどうかを調査することを明らかにした。
今回の評価の画期的な点は、それが行われる場所にある。モデルのリリース直前ではなく、訓練プロセスの最中に実施されるのだ。Apollo Researchは公告の中で、フロンティアモデルに対するこれまでの評価はいずれも後訓練終了後・公開リリース前に行われており、この形式では訓練プロセス中に生じる潜在的な策謀行動を十分に審査できず、またOpenAI社内での展開中にモデルが生じさせるリスクも評価できないと明記した。新たな組み込み評価はこの2つの盲点をカバーするものとなる。
Apolloの4か月にわたる評価は4つの核心的問いを中心に展開される。訓練プロセスがモデルを転覆的行動へと誘導しているか、標準的な評価手順でそうした行動を引き出せるか、そのような行動がOpenAI社内の展開環境ですでに生じているか、そして転覆的な推論が発生した際に検出可能かどうかである。第1の問いに関して、Apolloが得たアクセス権限には関連する訓練コードおよびデータセット、推論トレースと報酬シグナルを含む強化学習のロールアウト、そして中間モデルチェックポイントへのクエリ能力が含まれる。残り3つの問いに関する具体的なアクセス取り決めは、双方の協議により今後決定される。
他の3機関はそれぞれ異なる評価機能を担う。METRはOpenAI史上最大規模の強化学習訓練実行における整合性の逸脱行動を評価し、既存のテストおよび監視システムが見落とした可能性のある問題を対象とする。Transluce はOpenAIの後訓練アライメント評価の質とカバレッジを審査する。Goodfireは解釈可能性の研究員を派遣し、Goodfireプラットフォームを活用してモデルの内部機構を分析し、訓練プロセスを監視する。
4機関の報酬構造には顕著な差異があり、それぞれの立場を反映している。Apollo ResearchとGoodfireは財務的報酬を受け取るが、補償額は評価結論と連動しない。METRとTransluceは資金を受け取らないが、計算リソースまたはAPIクレジットを受け取る可能性がある。
アクセスの境界は今回の評価において最も注意深く読むべき部分だ。Apolloの文書によれば、同機関の権限は「合意された評価対象、特定のモデル、特定の期間」にのみ適用され、OpenAIは技術的な実現不可能性、セキュリティリスク、または知識財産上の理由を根拠に情報提供を拒否する権利を留保する。双方の合意として、OpenAIは情報が自社に不利であるという理由のみで開示を拒否することはできず、拒否する場合は理由を書面で示さなければならない。人員アクセスの面では、OpenAIが機密情報について評価員と議論する権限を持つ社員を選定し、Apolloは候補者の推薦や専門的な要件の提示が可能だが、最終決定権はOpenAIにある。承認リスト外のOpenAI社員が評価員の前で機密情報に言及した場合、Apolloは直ちに実質的な議論を中断し、その後の接触は指定の連絡担当者に委ねなければならない。評価員はOpenAIのハードウェアを使用して業務を行い、監視可能な独立した通信チャネルを割り当てられ、デフォルトではOpenAIの一般的な社内チャネルへのアクセス権を持たない。
報告書の開示メカニズムについては、Apolloは2本の公開報告書を発行する計画だ。第1弾は訓練プロセスが転覆行動をどの程度誘導しているかを評価し、第2弾は評価方法、社内展開状況、および転覆的推論の検出可能性を扱う。OpenAIの取締役会安全・セキュリティ委員会は未編集版の報告書を受け取り、公開版は情報が制限される可能性がある。
この仕組みの産業的意義は、「いつ評価するか」という業界のデフォルト値を変える点にある。これまで外部の安全評価はほぼ例外なくモデルのリリース直前に実施されており、製品の出荷時に初めて品質検査を行うようなものだった。OpenAIが今回、外部評価者を訓練フェーズに受け入れることで、安全審査が構造的に開発の丸1段階分前倒しされることになる。同様にフロンティアモデルの競争下にあるGoogle DeepMindやAnthropicなどの機関にとっても、OpenAIの組み込み評価モデルが信頼性の高い報告書を産出すれば、業界への暗黙的な圧力となるだろう。
企業の導入選定や開発者にとって、今回の評価の実質的な価値は未解決の問いにかかっている。公開報告書が最終的にどこまで開示されるかだ。OpenAIが大量の情報免除権を行使すれば、評価報告書は限定的な陰性結論を示すにとどまり、外部の検証者に十分な証拠の連鎖を提供できない可能性がある。Apolloの文書はすでにこのリスクを認めており、「アクセスおよび開示権限は完全な組み込み評価の基準にはまだ達していない」と直接述べている。
時間軸の観点では、Apolloの4か月間の常駐期間は2026年11月に始まり、2027年第1四半期頃に終了する。残り3機関の評価開始時期はそれぞれ異なり、現時点ではすべてが開始されているわけではない。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接