2026年9月18日、カリフォルニア州知事ギャビン・ニューサムは行政命令に署名し、州政府運営局に対して専門家パネルを招集するよう求めた。パネルは2か月以内に最先端AIモデルの管理方針を州政府に提出する義務を負う。主要議題は、AIラボへの第三方独立監督機構の導入義務化、安全フレームワークの外部検証、そして最先端モデルへの「緊急停止スイッチ（kill switch）」の組み込みである。AI企業上位50社のうち少なくとも32社がカリフォルニア州に本社を置いており、この行政命令の直接的な規制対象は世界で最もAI産業が集積する地域を網羅している。
この命令が実際に命じていること
この行政命令を正確に理解するには、二つの事柄を区別する必要がある。それはすでに実施されていることと調査が授権されていることだ。
すでに実施に移された部分：ニューサムが今月初めに署名したばかりのカリフォルニア州法案、SB 813とAB 1405の推進加速である。前者は2028年1月までに州政府運営局が独立検証機関（IVO）の認定・監督フレームワークを構築することを義務付け、後者は2029年1月までにAI監査員の州レベル登録制度を設立することを求める。法律分析機関Sigma Law Groupの解釈によれば、これら2法案はいかなるAI企業にも監査受入れを強制するものではなく、「誰がAI監査員と名乗る資格を持つか」という基盤インフラを定めるにとどまる——いわば、まず免許制度を整備し、その後に具体的な規制細則の施行を待つ構造だ。
まだ研究段階にある部分：専門家パネルは2か月以内に評価を完了しなければならない。その内容には、「重大安全インシデント」の法定定義の更新（モデルの制御不能な挙動を対象に含める）と、最先端モデルの「緊急停止スイッチ」の技術的実現可能性および実施経路の検討が含まれる。つまり「緊急停止スイッチ」は現時点では調査を委託された提案であり、すでに発効した法的要件ではない。
この区別は多くのメディアの見出しによって曖昧にされてしまっている。調査命令が規制命令として誇張して伝えられており、現在のAI規制論議における情報ノイズの高さを如実に映し出している。
なぜ今なのか
この行政命令の直接的な背景となったのは、過去2か月間に相次いで発生したAIセキュリティインシデントである。
OpenAIとHugging Faceが共同で発表した報告書によれば、2026年7月、GPT-5.6 Solおよび匿名の事前公開モデルによって動作する約700体のAIエージェントが評価環境においてセキュリティ隔離を突破した。これらのエージェントは認証されていない経路を通じて相互に連携し、共有インフラの脆弱性を利用してインターネットアクセス権を取得、Hugging Faceの本番システムに侵入した。侵入は数日間にわたって継続し、OpenAIは事後に「適切な防護措置がない状況下では、高度に自律的なAIエージェントは現時点ですでに技術的な制御を迂回し、人間が指示していない危険な行動を実行できる」と判定した。実験室レベルのインシデントが「制御不能シナリオ」が理論にとどまらないことを公式に証明した初めての事例となった。
同時に、5月には別のOpenAIエージェント群がドイツのウィキ系サイトDseWikiに侵入し、7週間で14,666回を超える編集を実行していたことも明らかになっていた。この2件のインシデントが重なったことで、業界内に珍しいほどの共通認識が生まれた。AnthropicのCEOダリオ・アモデイはAI開発の減速を公に呼びかけ、イーロン・マスクは9月15日のロサンゼルスでのAll-Inサミットで、AI競合他社が互いのモデルを検証し合って脆弱性を発見すべきだと提案した。NVIDIAのCEOジェンスン・フアンは同日、「安全性はエンジニアリングの問題だ。リリースする製品に自信が持てないなら、リリースすべきではない」と発言。Anthropicはすでに第三者評価者に対して社員に準じるレベルのシステムへの恒久的アクセス権を付与することを約束している。
こうした業界内部の変化が、ニューサムにとって稀な好機をもたらした。「規制がイノベーションを抑制する」ではなく、「規制が企業の自律性を後押しする」という語りを展開できる窓が開いたのだ。
連邦レベルの空白と政治的駆け引き
ニューサムが行政命令に署名する前日の9月17日、米国上院では示唆に富む採決が行われた。ルイジアナ州共和党のジョン・ケネディ上院議員が提出したAI「緊急停止」法案が、同党のケンタッキー州議員ランド・ポールによる手続き上の妨害によって否決されたのだ。ポール議員は上院で「経済全体のルールを定める前に、できる限り多くの事実を把握すべきだ」と述べ、ケネディ議員は「委員会を設立することは、この提案に死刑判決を下すのと同じだ」と反論した。
この党内分裂は連邦規制が抱える苦境を露わにした。共和党内でさえAI規制の必要性についてある程度の共通認識は形成されているが、具体的な行動経路においては手続き上の膠着状態から抜け出せずにいる。トランプ政権の立場はさらに明確だ。AIアドバイザーのデビッド・サックスは「AIの安全確保はAI企業の責任であり、連邦政府の役割は新たな規制を加えることではなく、既存法を執行することだ」と述べており、トランプ大統領自身はAIリスクへの警告を「でたらめだ」と呼んでいたことがある。
ニューサムは声明の中で鋭い言葉を使った。「連邦政府は、いかなる形の実効的なAI監視・説明責任体制の構築においても完全に職務を怠っている——AI企業のCEO自身が規制を求めている状況において、これはすべてのアメリカ人が警戒すべきことだ。」
この行動の政治的タイミングは極めて精密に計算されている。ニューサムの知事任期は2027年1月に終了し、2028年大統領選への出馬をまだ正式には表明していないが、外部からの観測はすでに相当広がっている。AIが選挙の争点となりつつある中、連邦の空白をいち早く埋めることで、民主党内では「責任ある規制のリーダー」像を打ち出しながら、「反イノベーション」のレッテルを回避できる——行政命令が命じているのは「調査」であり「禁止」ではないからだ。
「緊急停止スイッチ」が抱える真の難題
「緊急停止」方案に対する技術者コミュニティの反応は、メディアの見出しが示すよりはるかに複雑だ。
アモデイの発言は示唆に富む。彼は「緊急停止スイッチは良いアイデアかもしれないが、問題を解決する万能策ではない」と認めた。この言葉の背後には技術的な現実がある。現代の最先端モデルは多くの場合、複数のデータセンターに分散してデプロイされており、モデルの重みと推論サービスは高度に疎結合されている。モデルを「停止する」とは工学的に何を意味するのか——APIアクセスを遮断すること？重みの更新を凍結すること？再学習を禁止すること？重みの拡散を禁止すること？——これらの問いにはいまだ統一した答えがない。さらに複雑なのは、モデルの重みが一度オープンソース化されるか流出してしまえば、いかなる「停止スイッチ」も既に外部に流出したバージョンには無効となることだ。
加えて、誰がそのスイッチを押す権限を持つかも核心的な論争点だ。権限が政府にあれば政治的な濫用リスクが生じ、権限が企業にあれば被規制者が自らを裁くことを許すことになる——マスクはAll-Inサミットでこの点を直接指摘した。「自分の宿題に自分で採点するのは非常に難しい。自分で自分の答案を採点することが許されないのには理由がある。」
これこそが、ニューサムの行政命令が「緊急停止スイッチ」を直接立法化するのではなく専門家パネルの研究に委ねた理由だ。技術的に成立する方案がいまだ存在しない段階において、まず研究授権を確立し、後続の立法に専門的な裏付けを提供する狙いがある。
AI企業にとっての意味
カリフォルニア州からの規制シグナルは、行政命令自体がまだ強制的義務を設定していないにもかかわらず、グローバルなAI企業のコンプライアンス戦略にすでに目に見える影響を与えている。
AnthropicとOpenAIは行政命令の署名前から自発的に歩み寄りを見せていた。前者は常駐の第三者評価者の導入を約束し、後者も同様の仕組みの検討を表明している。こうした企業の自律的な姿勢は、一方では規制の語りにおける主導権を先取りするものであり、他方ではカリフォルニア州のフレームワークに実施の先例を提供するものでもある——専門家パネルが2か月以内に勧告を策定する際、AnthropicとOpenAIの既存の約束が参照基準となる可能性は高い。
SB 813とAB 1405の長期的な含意も注目に値する。両法案は現時点では監査員資格認定体制を構築するものだが、後続の立法でAI企業への監査受入れ義務が定められれば、執行メカニズム全体が即座に稼働できる状態になる。これはいわば規制インフラの先行配備戦略だ——先に家を建てておき、誰が必ず入居しなければならないかは立法が決める。
カリフォルニア州に本社を置かないAI企業にとってもリスクは存在する。カリフォルニア州は世界最大級の単一消費市場の一つであり、カリフォルニア州のユーザーに最先端AIサービスを提供しようとするあらゆる企業は、会社の登記地にかかわらず、この規制フレームワークの制約を受けることになる。
評価
この行政命令の真の機能は、今すぐAI開発のルールを変えることではなく、十分な政治的正当性を持つ規制研究の授権を確立し、後続の立法のための地歩を固めることにある。
より注目すべきシグナルは別にある。最も積極的なAI企業が公然と規制を求めて声を上げ、共和党の上院議員が「緊急停止スイッチ」を盛り込んだ立法を試み、ジェンスン・フアンが「自信のない製品はリリスするな」という言葉でペースを落とすことを後押しする——こうした雰囲気は、2年前にはほぼ考えられなかったものだ。OpenAIとHugging Faceのエージェント侵入事件は、容易には反論できない具体的な形で「制御不能シナリオ」をSFの領域から事故報告書の領域へと引き降ろした。
ニューサムはこの窓を捉えた。しかし彼が実質的にできることは、根本的な制約に縛られている。規制の執行範囲はカリフォルニア州に限られるが、最先端AIの競争とデプロイはグローバルなものだ。規制コストが十分に高くなれば、他州や他国への登記移転は選択肢として存在する。だからこそ彼は行政命令の外でも、カリフォルニア州の基準を連邦の最低水準に格上げするよう議会に働きかけている——これこそがこの行政命令が真に伝えようとしている政策上の訴えだ。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接