トランプ政権のAI安全テスト「秘密規則」に腐敗疑惑、公開命令の可能性

米連邦政府が最先端AIモデルを評価する際に用いる安全テストの手続きは、長らく非公開の内部規則によって運用されてきた。モデルの採点基準から免除条件に至るまで、一般市民がその実態を知る手段はほぼ存在しない。このほど、一件の訴訟がこの壁を突き崩そうとしている——原告は、トランプ政権に対して「秘密テスト規則」の公開を強制するよう法院に求めるとともに、これらの規則が腐敗を覆い隠すツールになりうると主張している。

「秘密規則」が包み隠すものとは？

米国の規制の文脈において、最先端AIモデルとは通常、巨大な計算規模と社会的影響力を持つ高度な人工知能システムを指す。連邦政府は、それらが政府調達や重要インフラに活用される前に安全テストを実施する必要がある。理論上、こうしたテストは明確な手法と再現可能な採点基準を備えるべきである。しかし訴状は、実際の評価は行政担当者が内部で保有する「機密マニュアル」に大きく依存しており、モデルが審査を通過するかどうか、いかなるレッドチームテストを受けるべきか、免除を受けられるかどうかについて、明確な公的回答が存在しないことを指摘している。

原告は、内部裁量に高度に依存するこの仕組みが、企業間で異なる扱いをするために容易に利用されうると主張する。ある企業の幹部が政府高官と緊密な関係にある場合、あるいはある製品が政治的使命を付与されている場合、関連審査が誰にも知られないまま基準を緩和される可能性がある。一方、不都合な企業は曖昧な「安全上の欠陥」を理由に無期限の遅延を受けるおそれがある。秘密規則はこうして、技術的ツールから、偏見と利益交換を容れうる行政のブラックボックスへと変質しうる。

「国家機密」か、それとも法的免除か？

情報開示の圧力に対し、トランプ政権が最も採用しやすい反論は、AI安全テスト規則が国家安全保障上の機密情報に該当し、公開すれば外部の敵対勢力が検知を回避する手がかりを得るというものだ。この種の主張はこれまで繰り返し効果を上げてきた。しかし原告は、多くのテスト規則は純粋に手続き的な内容——たとえば「再テストの決定権を持つのは誰か」「評価はどのような期間内に完了すべきか」——であり、真の国家機密とはかけ離れていると指摘する。

「トランプ政権による最先端AIモデルの秘密審査は、腐敗を隠蔽している可能性がある。」——本訴訟における中心的な主張の一つ

本訴訟はさらに、行政特権の境界にも挑戦しようとしている。過去数年、米国のAI安全政策は大きく揺れ動いた。モデル評価手法の公開や民間機関とのテストデータ共有を試みる時期から、内部での非公開審査をより重視する方向へと転換し、透明性は一貫して後退してきた。原告は、いかなる内容が真に機密保護を要するものであり、いかなる内容が単に外部への説明を避けたい「グレーゾーン」の意思決定にすぎないかを見極めるため、独立した技術専門家を法廷が任命するよう求めている。

なぜ公衆には知る権利があるのか？

人工知能システムは医療・教育・司法の各分野に着実に浸透しつつある。人々は毎日これらのシステムと接しているにもかかわらず、それらが信頼できる検証を経ているかどうか、どのように安全と判定されたかを知る手段がない。AI安全テストは企業秘密でも特定政権の私有物でもなく、公共インフラとして位置づけられるべきものだ。基準が暗号化されたフォルダの中に埋もれていれば、公衆の安全に対する信頼は拠り所を失う。

本件は、たとえ短期的に決定的な判決が下されなくとも、すでに米国のAI政策をめぐる公的議論にひとつの問いを刻み込んでいる——アルゴリズムがすべての人に影響を及ぼすとき、政府がアルゴリズムを評価する規則は、公衆に対して説明責任を負うべきではないのか、と。

編集後記

技術システムは限定的な秘密保持には耐えられるが、際限のない裁量には耐えられない。AI安全テストにおける秘密規則が外部からの攻撃を防ぐためだけのものであれば、それは技術的問題にすぎない。しかし、行政権力が商業的利益を配分する抜け道ともなりうるならば、それはガバナンスの腐敗である。法院が最終的にトランプ政権への文書公開を命じるかどうかにかかわらず、一点は変わらない——AIガバナンスにおける透明性の問題は正式に訴訟の舞台に立ち、容易には退場しないだろう。

通常の法的手続きによれば、今後数カ月以内に法院は「政府が秘密規則を提出する義務を負うか否か」について早期裁定を下す見通しだ。原告が勝訴すれば、米連邦政府は初めてAI安全テストの論理を公衆に完全に開示することを余儀なくされる。たとえ敗訴したとしても、本訴訟は重要な転換点を画している——社会はもはや「人工知能の安全」を行政部門の内部判断に単純に委ねることを望まなくなったという事実である。

本稿はArs Technicaより編訳。