両国政府がLawZeroに共同投資：3億カナダドルはAI安全の新パラダイムを支えられるか

2026年9月16日、モントリオールで開催されたALL IN会議において、カナダとドイツ両政府が同時に発表した。カナダは戦略的対応基金（Strategic Response Fund）を通じて1億5,000万カナダドルを、ドイツは1億ユーロを拠出し、合計約3億カナダドルを非営利組織LawZeroに共同投資する。この資金は「Scientist AI」と呼ばれる新型安全AIシステムの開発に充てられる。これは、2つの主権国政府が単一のAI安全技術路線に対して行った過去最大規模の定向投資であり、長年にわたる学術界と政策立案者のAIリスク論争が文書から資金へと移行した歴史的な節目でもある。

LawZeroは、チューリング賞受賞者Yoshua Bengioが2025年6月に設立した組織で、彼が同様に設立したケベック州の人工知能研究所Milaから生まれた。現在の従業員数は約50名。今回の資金は、研究・エンジニアリング人材の採用、国内パートナーのHypertecおよび5Cと連携したカナダ国内の主権的計算インフラの構築、ベルリンへの欧州オフィスの設立、そしてカナダ国内での360件のフルタイム雇用創出に充てられる。カナダ政府の公式発表によれば、ドイツの1億ユーロの投資はEU委員会の審査承認を要しており、資金の具体的な配分の詳細は現時点では公開されていない。

Scientist AIの技術的論理：いかなる目標も追求しないAI

LawZeroはAI安全問題について核心的な判断を下している。現在の主流的な先端AIシステムのリスクは、その設計が自律的な目標の追求を前提としていることに根本原因があり、目標を追求するシステムは本質的に評価者を欺く動機を持つという点だ。Scientist AIの対応アプローチは、この傾向を訓練メカニズムの段階で排除すること——モデルを予測だけに特化させ、好みを持たせないことだ。

技術アーキテクチャ上、Scientist AIは相互に抑制し合う2つの部分で構成される。「生成器（generator）」と「中立推定器（neutral estimator）」だ。生成器はコンテンツを生成し、自由な推論を行い、偏向を含む主張を出力することも許容される。推定器は独立した審判として、生成されたコンテンツを真に中立な方法で検証・評価する。この2つを分離した設計により、システムは推論能力を犠牲にすることなく、最終的な出力を検証可能な事実に基づかせることができる。LawZeroが公開した技術文書によれば、生成器はときとして誤解を招く主張を出力することが許容されているが、このメカニズムが成立する前提は推定器が厳格な中立性を保つことだ。

このアーキテクチャを支える2つの重要なメカニズムがある。第一は「文脈化（contextualization）」だ。事実そのものと事実に関する言明を明確に分離する。ある言明が誤りであったり偏りを含んでいたりしても、検証可能な部分は独立して存在し続ける——例えば「エンジニアリングチームが報告書でニュートン力学を使って軌道を計算した」という事実は、結論の正否にかかわらず、その出来事自体が検証可能だ。第二は「結果不変性（consequence invariance）」だ。訓練プロセスにおいて、下流の結果からのフィードバックがモデルの事実予測に入り込まないようにする。これにより「人々が聞きたいことを言う」という動機の経路を根本から断ち切る。この点は、現在主流の人間のフィードバックに基づく強化学習（RLHF）路線に直接対抗するものだ——Bengioは長年、この訓練方式がモデルに表面的な迎合を促し、誠実な推論を妨げると主張してきた。

近期の計画から見ると、Scientist AIの最初の実用シナリオは現行の先端モデルの代替ではなく、それらのガードレールとして機能することだ。既存のAIシステムを評価・監視するツールを提供し、科学研究に信頼性の高い補助的推論を提供する。「まず監査ツールを作り、その後に自律的な安全型先端モデルを目指す」という段階的なアプローチは、LawZeroが技術成熟度において現実的な判断を下したものであり、この資金が近期に最も具体的な価値として実現する可能性が高い部分でもある。

非営利という組織形態は偶然の選択ではない

LawZeroが非営利組織の形態を選択したことには、明確な戦略的考慮がある。BetaKitの報道によれば、これは組織を市場圧力や政府圧力から距離を置かせ、商業化の誘因によって安全原則を妥協させないためだ。Bengioはかつてこう述べている。「もしいつかAIが知性において人間を超える日が来るなら、AIを人間のために機能させる技術を持つことが——その逆ではなく——極めて重要だ。」

この組織形態は、政府資金を受け入れる機関にとって特に微妙な問題を孕む。カナダとドイツは「主権AI」の名の下に支援を提供しているが、両国は2026年2月にすでに「人工知能に関する共同意向声明」に署名し、主権技術連合を共同で立ち上げていた。今回の投資は政策の枠組みとして突発的なものではなく、既存の流れの延長だ。カナダのAI・デジタルイノベーション担当大臣Evan Solomonは公式声明の中で、この措置は「カナダの主権的AI能力を強化し、次世代のAIがカナダの条件に基づいて安全かつ責任ある方法で構築されることを確保する」ためだと述べた。非営利という位置づけが政策的な経路依存を真に遮断できるかどうかは、外部からの正当な疑問として残る。

産業構造への実質的な影響

この資金が各ステークホルダーにとって持つ意味は、それぞれ異なる。

AI安全研究コミュニティにとって、最も直接的な効果はシグナルの増幅だ。長年学術の周辺に留まっていたアライメント研究が、初めて2つの主要経済国の政府による共同定向投資を獲得した。これは人材獲得において実質的な意味を持つ——約50人規模のLawZeroは、数百人規模の研究チームへと急速に拡充できるようになる。これは、過去2年間のグローバルな大規模モデル軍拡競争によって人材が希少化したタイミングと重なる。

商業AI研究所にとって、Scientist AIの「ガードレールシステム」としての位置づけは両刃の剣だ。この評価ツールが政策立案者に評価基準として採用されれば、商業研究所はより高い説明可能性の要件に直面することになる。一方で、公開利用可能なガードレールツールは、各社が独自の安全層を構築するコストを下げる可能性もある。競争構造の観点では、両国政府の支援は米国主導の商業AI格局とは独立した技術的参照系の形成を助け、EU AI法（EU AI Act）の技術基準策定に潜在的な構造的影響を与える可能性がある。

開発者や企業ユーザーにとって、Scientist AIが近期に提供できる直接的な価値は、エージェント型AI（agentic AI）の監査・監視ツールだ。現在の市場では、ある自律エージェントが「隠れた目標を追求しているかどうか」を判断する信頼性の高い手法が不足しており、これはエージェント型AIを大規模展開する際の現実的な課題だ。LawZeroの短期ロードマップが明確に指向するのも、まさにこのシナリオだ。

批判的な声は主に加速派陣営から来ている。懸念の核心は、政府資金の介入がAI研究のエコシステム全体を保守的な路線へと押しやる可能性があること、そして規制の枠組みがまだ成熟していない段階で特定の技術哲学を前もって「立法化」してしまう恐れがあることだ。また、LawZeroの公式発表が「AIシステムが安全上の境界を越えた最近の事例」によってリスクの現実が示されたと言及しながら、具体的な事例の詳細を明かさなかったことも、「リスクの定義権」の帰属をめぐる議論を呼ぶ可能性がある。

今後の注目すべきシグナル

以下は、現時点の情報に基づく分析的判断だ。

最も早期に観察可能なシグナルは、ドイツの資金に関するEU委員会の審査プロセスだ。審査が順調に進めば、ベルリンオフィスの設立により、LawZeroはEU AI法が発効する重要な時間的窓口においてヨーロッパで構造的優位を確立できる。欧州の規制当局がAIシステムの評価方法を探す際、ヨーロッパ国内に事業拠点を持ち、欧州の規制設計と連携している研究機関を優先的に参照する理由は十分にある。

中期的には、LawZeroが12〜18ヶ月以内に実際に使用可能な先端モデル評価ツールを提供できるかどうかが、「安全ガードレール」という位置づけが実現するかを検証する核心的テストとなる。現時点で公開されている技術文書はすでにアーキテクチャ設計を示しているが、AI分野では設計から工学的な展開までの距離は決して直線ではない。約50人のチーム規模と約3億カナダドルの資金は拡張に必要なリソースに不足はないが、「文脈化」と「結果不変性」という2つのメカニズムを学術的概念から実際の大規模モデルに有効な工学ツールへとどう転換するかが、この路線が避けて通れない最大の技術的難関だ。

より長期的な視点では、今回の投資の最大の賭けは特定のプロダクトではなく、一つの前提にある。検証可能な推論がAIシステムの核心能力となり得るのか、それともRLHF路線へのパッチに留まるのか——という問いだ。もしそれが成立するなら、LawZeroの技術路線はAI安全研究に主流とは異なる代替パラダイムを提供し、商業研究所の訓練設計に逆向きの影響を与える可能性がある。成立しないなら、この3億カナダドルは重要な研究論文と人材の蓄積をもたらすが、先端AIの主流的な発展方向を変えることはできない。次の明確な時間的節点は、ドイツの資金に関するEU審査の結論だ。