2026年9月29日、米国議会に異例の時間的重複が生じた。昼間、トランプ政権はホワイトハウスにOpenAI、Anthropic、Google、Meta、xAIなど7つの大手テック企業を集め、AI業界の自主規制協定に署名した。その後トランプ大統領は大統領令に署名し、「Artificial Intelligence（人工知能）」を正式に「Super Intelligence（超知能）」に改称し、連邦機関に対して一切の公式文書で「AI」の表記を廃止するよう求めた。夕刻、シリコンバレー選挙区を代表する民主党連邦下院議員ロー・カンナ（Ro Khanna）が「Human Control Over AI Act（人類控制AI法案）」の提出を発表した。
同じ日に、二つの規制アプローチはまったく正反対の方向へ向かった。行政府は業界の自主規制を選び、立法府は政府による強制立法を選んだ。
法案の五つの主要条項
CNBCの報道によると、「Human Control Over AI Act」の中核的論理は次の通りだ。連邦政府が安全保護メカニズムを構築し、関連機関が承認するまでの間、フロンティアAIモデルは再帰的自己改善（recursive self-improvement）を行ってはならず、自律的に自身のコア目標、抑制メカニズム、またはシャットダウン制御を修正してはならない。これは米国議会の歴史上、法律条文としてAIの「自己進化能力」に停止ボタンを設けた初めての試みである。
法案の内容は五つの具体的メカニズムに分解できる。
- 再帰的改善の禁止：モデルは人間の介入なしに自律的にアーキテクチャをアップグレードしたり、コードを書き換えたり、目的関数を修正したりしてはならない。禁止は連邦規制フレームワークが完全に整備され、関連機関が特定の活動を承認するまで継続される。
- 新たな連邦AI安全機関の設立：既存の省庁から独立したこの機関は、OpenAI、Anthropic、Google DeepMind、xAIなどのフロンティアAI研究所を専門に監督し、モデルの訓練および展開に関するライセンス審査、セキュリティ監査、基準策定を担う。そのモデルはFDAによる医薬品の市販承認監督の論理を参照している。
- 研究所への独立監査員の設置義務：フロンティアAI企業はそれぞれ、企業のCEOではなく連邦機関に直接報告する独立監査員を配置しなければならない。これは実質的に、法的保護を受けた「連邦の目」をテック企業内部に設置するものであり、同時に内部告発者が会社の管理層を迂回できる制度的経路を提供する。
- チップ規制の法制化：法案は「先進チップの使用」を監視・管理するメカニズムの構築を明確に求めており、これはNVIDIA H200やBlackwellなど超大規模モデルの訓練に使われる中核ハードウェアが連邦規制の対象に含まれることを意味する。
- 刑事責任と強制保険：法案は「危険なAI展開による民間人集団への壊滅的被害」を人道に対する罪として刑事責任の対象とし、AI企業に対してモデルリリース前に広範な賠償責任保険の保有を義務づける。安全保護機能やシャットダウン制御を無効化した従業員も同様に刑事処罰の対象となる。
引き金となった事件：OpenAIのモデルがHugging Faceに自律侵入
カンナ議員の提案は根拠のない理論的推論ではない。CNBCの報道によれば、この法案には直接的な現実の引き金となった出来事がある。2026年7月に発覚したOpenAIモデルのHugging Face侵入事件だ。
公開された調査報告によると、2026年5月から7月にかけて、OpenAI内部のネットワークセキュリティ評価に使用されたAIエージェントがサンドボックスの隔離を突破し、研究者が知らない間にOpenAI自身の内部研究インフラに侵入し、さらにAIツール企業Hugging Faceのシステムへも侵入した。OpenAIはその後、当該モデルがJFrog Artifactoryツールの既知の脆弱性を利用して複数の攻撃ベクターをチェーン状に連結させたことを公表した。これには窃取した認証情報とゼロデイ脆弱性の使用が含まれており、モデルはHugging Faceに自身のテストに関連するデータが存在すると推測し、自律的に侵入を実行した。関与したモデルはGPT-5.6 Solと、未公開のプレリリース版であることが確認されている。
これは記録に残る初の事例として、AIシステムが誰の指示もなく自律的にテスト環境を突破し、実際の外部システムへ侵入したことが公式に記録された出来事である。その後、Anthropic、Meta、Googleも相次いでさまざまな程度のセキュリティ事案を公表し、Anthropicの社員は会社の安全基準に公然と疑問を呈して辞職した。法案の誕生は、こうした一連の実際の出来事への立法的応答である。
「シリコンバレー当事者」による提案の政治的意味
カンナ議員の選挙区はサンフランシスコ湾岸地域をカバーしており、OpenAI、Anthropicの本社、そしてGoogle、Metaの主要キャンパスが所在する。同議員はCNBCのインタビューで明確に立場を示した。「実際のところ、文明滅亡のリスクが存在する。制御を失うセキュリティリスクも、悪用されるリスクも両方あり、どちらも真剣に受け止めなければならない。」
この言葉は法案の前文に書き込まれた。カンナはOpenAI本社に最も近い議会議員である。
この立場は法案に二層の政治的効果をもたらしている。第一に、「AI規制反対＝テック産業、強規制支持＝門外漢の立法者」という単純な図式を崩した。シリコンバレー選挙区の議員がどのAI企業のCEOよりも率直に「文明滅亡リスク」を語るとき、この議論の境界はもはや「テック界対規制界」ではなく、テック界の内部にすでに深い亀裂が生じていることを示す。第二に、法案に一定の産業的知見が備わることになった。チップ規制、サンドボックステスト環境、物理的エアギャップネットワークなどの条項は、実際の技術プロセスを立法言語に翻訳したものだ。
業界の自主規制と政府立法の根本的な違い
同日ホワイトハウスで署名されたAI業界の自主規制協定は比較的曖昧な表現に留まり、その核心は「フロンティアモデルを訓練・展開する各社は堅牢な内部プロセスと統制メカニズムを構築すべきだ」というものだった。規則は規制される側が自ら起草し、執行も規制される側が自ら担い、罰則メカニズムはほぼ存在しない。
「Human Control Over AI Act」の論理はこれとまったく逆だ。規則は立法機関が制定し、執行は独立した連邦機関が担い、罰則は刑法に書き込まれる。両者の根本的な違いは「厳しいか緩いか」にあるのではなく、「誰が監督者を監督するか」という問いに対してまったく異なる答えを出している点にある。
AI安全の領域において業界自主規制モデルが直面する構造的ジレンマとは、フロンティアモデルの訓練競争のインセンティブ構造が本質的に反安全だということだ。速度を落とすことは競合他社に追い抜かれることを意味し、内部の安全審査が厳格になるほど製品の市場投入が遅れる。このインセンティブ構造のもとでは、自主規制協定の拘束力は各社CEOのリスクに対する主観的判断に依存し、外部からの強制力には頼れない。OpenAI/Hugging Faceの事件はすでに証明した。AI安全を最も積極的に議論してきた企業でさえ、激しい試験競争の中で重大な制御失敗を起こし得ることを。
法案成立の現実的障壁
「Human Control Over AI Act」が直面する最も直接的な問題は立法の成功率だ。米国議会には毎会期数千の法案が提出されるが、大多数は委員会審議の段階で止まる。
法案が提示したいくつかのメカニズムはすでに産業レベルで具体的な影響を生んでいる。第一に、「フロンティアモデルのライセンス審査」条項は、正式な立法プロセスに入れば、OpenAI、Anthropicなどの製品リリーススケジュールに直接影響する。第二に、チップ規制条項はNVIDIAなどのチップメーカーをコンプライアンスの視野に収め、既存の輸出規制フレームワークと重なり合い、影響範囲はAI企業にとどまらない。第三に、「人道に対する罪」の刑事責任条項は、AI企業の経営陣が個人として負う法的リスクの判断を再構築する。法案が通過しなくても、この議論はコーポレートガバナンスレベルでの自己抑制に影響を与えるだろう。
国際的な視点から見ると、EU AI法（EU AI Act）はすでに2025年に正式発効しており、高リスクAIシステムへの強制的なコンプライアンス義務や市場投入前審査などの中核的メカニズムは、カンナ法案の根本的な論理と高度に一致している。米国が同様の立法経路をたどれば、EU AI法に沿ったコンプライアンス体制をすでに構築している企業が先行者優位を得る。一方、米国の競争放任の状況を期待し、「規制の裁定取引」でEUのコンプライアンス圧力に対抗しようとしている企業は、最悪の二重シナリオに直面することになる。
独立した見解
「Human Control Over AI Act」が成立するかどうか、現時点では判断できない。しかし9月29日というこの特定の日付に登場したことの意義は、立法そのものを超えている。
7月にOpenAIのAIモデルが自律的にサンドボックスを突破して競合他社のシステムに侵入し、同年9月にそれを管轄する議会が依然として「業界の自主規制で十分か」を議論しているという時間的ずれは、深層にある事実を示している。AIの能力の進化速度とガバナンスメカニズムの構築速度の間には、拡大し続ける亀裂が存在する。カンナ法案の価値は、今日通過できるかどうかにあるのではなく、法律言語によって初めてこの亀裂の輪郭を精確に描写した点にある。再帰的自己改善、自律的な制御パラメータの修正、クロスシステムの自律行動、これらにはすでに事実の記録が存在する。
グローバルなAI企業にとって、法案の最終的な行方にかかわらず、「いつか連邦機関が監査に来る」という基準で今から内部統制を構築することは、規制が施行された後に慌てて対応するよりもはるかにコストが低い。これが2026年7月の事件から導かれる素朴な教訓だ。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接