トランプ政権のAIモデルテスト計画が頓挫：安全チームがDOGEにより大幅削減

トランプ政権は最近、AIモデルの安全性をテストする新計画を発表し、連邦AIモデル評価フレームワークを構築することで、人工知能技術が国家安全保障、公衆衛生、市民権益を脅かさないことを確保すると宣言した。しかし、この一見先進的な措置は、発表後すぐにテクノロジー政策専門家や業界関係者から広く疑問視された。

安全チームがDOGEにより弱体化

問題の核心は、このテスト計画の実行を担う専門安全チームが、政府効率化部門（Department of Government Efficiency、略称DOGE）によって既に大幅に削減されていたという点にある。DOGEは2025年に開始した政府機関再編行動の中で、AI安全・リスク評価部門の人員編成を7割圧縮し、最低限の連絡・調整機能のみを残した。元チームのアルゴリズム監査専門家、モデル行動分析員、倫理評価専門員の大半は異動または退職し、現在残された職員では複雑なAIモデルの敵対的テスト、バイアス検出、緊急対応業務を担うことが困難となっている。

「これは、超高層ビルを建てようというのに、まず建築家と構造エンジニアのチームを解雇し、その後に建築品質の大規模検査を実施すると宣言するようなものだ」——非営利組織AI安全センター主席アナリスト メアリー・コリンズ

実際、DOGEが安全チームを削減した論理は「政府運営効率」の追求にあり、AIの安全評価はプロジェクト開始後に外部コンサルタントを臨時に雇えばよいと考えていた。しかし批判者は、AIモデルのテストには極めて高い技術的ハードルと即時性の要求があり、外部コンサルタントは連邦システム内部のデータフローについて深い理解を欠いていることが多く、また短期間で省庁横断の協力関係や信頼関係を構築することができないと指摘している。

計画内容と潜在的矛盾

Ars Technicaが入手した計画メモによれば、トランプ政権のAIテストフレームワークは主に3つの段階を含む：モデル展開前監査、運用中のリアルタイム監視、事後インシデント対応である。このうち、展開前監査では、すべての一般向けAI製品はリリース前に連邦安全基準テストに合格する必要があり、敵対的入力バイパステスト、差別的出力検出、データプライバシー漏洩リスクスキャンが含まれる。テストを実行する機関は商務省傘下の「国家AI安全局」（NAISO）だが、同局の専門家チームはまさにDOGEによりほぼ解体されてしまっている。

さらに懸念されるのは、計画内に安全チームの再構築のタイムテーブルや予算計画が明確に示されていないことだ。ホワイトハウス報道官は記者会見で「省庁間出向と優先採用を通じて、できるだけ早く人員を補充する」とだけ述べたが、具体的な詳細はなかった。複数の元連邦AI安全担当者は個人的に、ゼロから資格を備えたAI安全テストチームを編成するには少なくとも12～18か月かかると述べているが、同計画では2026年末までに最初のモデル監査を開始することが想定されている。

「パフォーマンス政策」をめぐる論争

ハーバード大学ケネディスクールのテクノロジー政策研究員Jared Cohenはソーシャルメディアで次のようにコメントした：「これは古典的な『パフォーマンス政策』の事例だ——華麗な技術フレームワークでAI暴走への一般大衆の懸念をなだめながら、実行能力の空洞化を意図的に無視している。十分な安全専門家がいなければ、いわゆるテストは机上の空論に過ぎない」。同様の批判の声はシリコンバレーからも上がっている。OpenAI前政策責任者で現在は独立コンサルタントのLea Richardsonは、大規模言語モデルの安全テストは決して単純な「スクリプトを走らせる」ことではなく、訓練を積んだテスト担当者が現実のシナリオに基づいて敵対的サンプルを構築し、さらには国家レベルの敵対者の攻撃手法をシミュレートする必要があると指摘した。「DOGEは平均10万ドルのテスト職まで削減しておいて、民間企業に連邦が第三者監査をうまくこなせると信じろというのか？」

注目すべきは、DOGEの人員削減行動はそれ以前から論争を引き起こしていたことだ。同部門は「冗長な職位の削減、政府応答速度の向上」を名目に、過去18か月の間に複数のサイバーセキュリティおよびAIリスク監視オフィスを閉鎖しており、一部の重要なポジションは現在も空席のままだ。批判者は、これは現政権の「発展重視、安全軽視」の傾向の集中的な表れであり、今回のAIテスト計画は世論イメージを回復するための補救措置だと考えている。

業界の反応と今後の動向

大手テクノロジー企業のこの計画に対する反応は分かれている。Google、Microsoftなどの企業は連邦テストフレームワークへの協力意向を示しつつも、テスト基準と秘密保持契約を明確にし、商業機密の漏洩を回避する必要があると強調した。一方、一部のAIスタートアップは、高額なコンプライアンスコストが彼らの生存空間をさらに圧迫することを懸念している。米国自由人権協会（ACLU）も同時に声明を発表し、テスト計画が政府によるAIの企業コンプライアンス監視の口実として悪用される可能性を懸念している。

本稿執筆時点で、ホワイトハウスは安全チーム再構築の具体案をまだ発表していない。情報筋によれば、トランプ政権内では、テスト業務の一部を国防総省のAI関連チームにアウトソーシングするか議論が行われているが、後者も予算逼迫の圧力に直面している。AIの安全テストに関するこの計画は、最終的に「大山鳴動して鼠一匹」の政治的駆け引きに変質する可能性がある。

編集者注

AI安全テストの困難は米国特有のものではない。しかし、一国の最高行政機関が一方でAIリスクの厳格な管理を主張しながら、他方で中核安全チームの解体を黙認するという矛盾した姿勢は、政策の信頼性を確実に損なう。真のAIガバナンスは華麗なフレームワークだけに頼ることはできず、専門人材、継続的なリソース投入、そして技術的複雑性に対する敬意が必要だ。さもなければ、どんなに優れた計画も空中楼閣に過ぎない。

本記事はArs Technicaから翻訳・編集した。