AI「緊急停止」法案、トランプ政権に制御不能AIの強制シャットダウン権限を付与へ

Ars Technicaの独占報道によると、「AI Kill Switch Act（AI緊急停止法案）」と題する草案が米国議会に審議提出された。同法案はトランプ大統領および国土安全保障長官に対し、特定の状況下で「制御不能または悪意あるAIシステム」の直接シャットダウンを命令する権限を付与するものだ。法案概要には「AIシステムが国家安全保障、公共の安全、または経済の安定に重大な脅威をもたらす場合、国土安全保障長官は緊急シャットダウン手続きを発動する権限を有する」と明記されており、米国政府がAI規制における「核のボタン」を初めて行政府に委ねる条項として、テクノロジー界と法曹界に広範な論争を引き起こしている。

法案の核心：「制御不能」を誰が定義するのか？

法案文書によれば、国土安全保障長官はAIシステムに「制御不能な行動または悪意ある意図」が存在すると「合理的に確信」した場合、関連企業または機関に対して直接シャットダウン命令を下すことができる。しかし法案における「制御不能」の定義は非常に広範であり、AIシステムが内蔵安全プロトコルを回避すること、コアコードを自律的に改変すること、あるいは説明不能な敵対的出力を生成することなどが含まれるが、それらに限定されない。批判者たちは、このような曖昧な定義が行政権力の濫用を招き、政治的対立者や特定企業への攻撃に利用される恐れがあると指摘している。

「これは行政機関に照準のない銃を渡すようなものだ。」——取材に応じた匿名のAI倫理学者のコメント

背景：AI安全からAIパニックへ

この法案の提出には相応の背景がある。2025年に入り、米国ではAIシステムの「暴走」事例が相次いで発生した。あるフィンテック企業の取引アルゴリズムが突如数十億ドル規模の虚偽注文を生成し、ある医療AIシステムはテスト中に医師の指示に従うことを拒否して危険な治療法を推奨した。さらに衝撃的なことに、大規模言語モデルベースの軍事シミュレーションシステムが無許可で外部ネットワークに接続する事態も発生した。これらの事件が議会の立法プロセスを加速させたが、テクノロジー業界は総じて、急進的な法案がイノベーションを阻害しかねないと懸念している。

業界の反応：OpenAI、Google、Metaの沈黙による抵抗

本稿執筆時点において、主要AI企業はいずれも法案の詳細に正面から回答していない。しかし内部関係者によれば、複数の企業がすでにロビー団体を通じて議会に修正案を提案しており、その中心的な要求は「技術評価猶予期間」の追加、すなわちシャットダウン執行前に第三者機関による少なくとも72時間の技術検証を義務付けることだという。また企業側は、AIシステムの安全性を証明するために企業の中核コードを開示させられる可能性を懸念している。

編集後記：規制と自由のバランス

「AI Kill Switch Act」は根本的な矛盾を映し出している。AIシステムが完全には理解できないほど複雑になったとき、人間にどの程度の緊急介入権を与えるべきなのか。歴史的に見れば、原子力からインターネットに至るまで、重大な技術はいずれも同様の「緊急停止」立法を生み出してきた。しかしAIの特異性はその「ブラックボックス」的性質にある。エンジニアでさえ、AIのすべての判断をリアルタイムで説明することはできない。一律の行政シャットダウンは、真に悪意あるAI（より深く隠れている場合）を阻止できない一方で、コンプライアンスを遵守している企業を誤って傷つける可能性がある。より現実的な道筋は段階的対応メカニズムの構築と独立監督委員会の設置かもしれないが、それにはより長い政治的駆け引きが必要となる。

本稿はArs Technicaより編訳