米政府ウェブサイトが中国製AIツールを一時導入、FBIは「悪意ある」と指摘

米国連邦政府が法規および大統領文書を公式発行するウェブサイト「Federal Register（連邦官報）」が、中国製オープンソースAI検索ツールを一時的に接続していたことが明らかになった。このツールは、米連邦捜査局（FBI）が公式に「悪意ある」と位置づけていたものだ。ツールはすでに削除されたが、この事件は政府機関における人工知能調達のグレーゾーンを改めてスポットライトの下にさらすこととなった。

経緯：「一時的な」接続

Ars Technicaの報道によると、federalregister.govのウェブサイトは一定期間、中国製オープンソースAI検索ツールを利用し、サイト内検索や検索結果のランキングに関わる実験的な機能に使用していた。関連するコードとインターフェースは発覚後まもなく削除され、当局はこれを一時的な技術テストに過ぎず、機密データの漏洩は伴っていないと強調した。

しかし問題は、このウェブサイトが決して普通の位置づけではないという点にある。米国連邦法規の公式発行プラットフォームとして、Federal Registerは行政命令、機関規則、公聴会通知などの文書を担い、連邦政府の情報公開体系の礎の一つとなっている。その技術スタックに組み込まれた外部コンポーネントはいずれも、政府の透明性と国家安全保障に関する国民の神経を刺激しかねない。

「悪意ある」という評価の根拠

報道における重要な背景として、FBIによるツールへの評価がある。近年、米国の法執行・情報機関は中国製の大規模言語モデルおよびAIアプリケーションに対して繰り返し警告を発しており、その理由は主に三点に集約される。すなわち、モデルの学習データの出所とコンプライアンス、サーバー側における海外へのデータ送信リスクの可能性、そしてオープンソースライセンスの背後に存在する検証困難な管理体制である。

米連邦捜査局（FBI）はこれまで複数の場で一部の中国製AIモデルを「悪意ある」と表現し、政府機関および企業に対し、機密扱いまたは公共向けの重要システムへの導入を控えるよう促してきた。

なお、この評価はあくまで国家安全保障の観点からのリスク評価によるものであり、特定の脆弱性を対象とした技術的告発ではない点は留意が必要だ。オープンソースモデル自体は公開監査が可能であり、理論上はクローズドソース製品より透明性が高い。しかし推論処理が海外サーバーに依存していたり、モデルの重みの更新が海外チームによって管理されていたりする場合、リスク判断は「コードの安全性」から「サプライチェーンの安全性」へと急速に移行することになる。

オープンソース、政府調達、そして責任の境界

この事件のもう一つの意義は、政府の技術チームが新しいツールを探索するスピードが、コンプライアンス審査プロセスの更新速度を明らかに上回っていることを示した点にある。あるエンジニアがサイト内検索の利便性を高めようと手軽に人気のオープンソースモデルを組み込んだとき、目の前にあるのはGitHubの説明ドキュメントだけであり、包括的な国家安全保障評価レポートではなかった可能性が高い。

こうした緊張関係は世界各地で広く見られる。一方では、オープンソースAIが公共部門のイノベーションコストを大幅に引き下げ、小規模な政府ウェブサイトでも商用レベルに近いセマンティック検索能力を得られるようになっている。他方、政府システムのデフォルトの前提は「最悪のシナリオ」であり、あらゆる外部依存は使用後に問題がないかを問われるのではなく、まず無害であることを証明しなければならない。

さらに厄介なのは、オープンソースモデルの配布チェーンが極めて長い点だ。元の重み、ファインチューニング版、量子化版、ホスティングサービス、プラグインやAPIとしてパッケージ化されたもの——そのいずれもが異なる法的管轄区域に存在する可能性がある。調達担当者にとって「これは誰のモデルなのか」を判断すること自体、難易度の高い作業となっている。

編集後記

この件を単純に「米政府ウェブサイトが中国製AIを使ったから問題になった」と読み取るだけでは、より重要なシグナルを見逃すことになる。本質的な矛盾は、あるモデルがどの国から来たかではなく、公共部門がオープンソースAIを取り入れる際に、それに見合った十分に迅速なリスク分類メカニズムを欠いているという点にある。あらゆる試みがFBIの評価を受けて初めて止められるようでは、損なわれるのは技術的な効率性だけでなく、政府の技術ガバナンス能力に対する国民の信頼でもある。

中国のAI開発者にとっても、これは一つの警告となる。オープンソースのエコシステムにおいて、モデルの「産地」はすでに政治的属性を帯びつつある。技術的な開放性は、デプロイメントにおける障壁のなさを意味しない。コンプライアンス、透明性、監査可能性においていかに優れた実績を示せるかが、中国製オープンソースモデルが単にダウンロードされるだけでなく、真の意味で広く活用される範囲を直接決定することになるだろう。

本稿はArs Technicaより編訳。