国防総省がAIによる議会報告書代筆を自賛

米国防総省（ペンタゴン）はこのほど、傘下機関が生成AI（人工知能）ツールを使用して、国防授権法に基づき議会に定期提出が義務付けられた報告書の起草を開始したと高らかに発表した。この情報はArs Technicaが最初に報じたもので、国防総省の最高デジタル・AI責任者室（CDAO）は内部メモの中で、現在150万人以上の現役軍人および文職員が、業務補助・情報分析・兵站最適化などの場面でさまざまな生成AIツールを活用していると主張している。

AI代筆：効率向上か、責任回避か？

国防総省当局者によれば、AIは主に定例の状況報告、予算説明、政策影響評価といった非機密文書の起草に活用されている。これらの報告書はこれまで下級将校や事務職員が数週間かけて作成していたが、カスタマイズされたAIモデル（GPT-4アーキテクチャをベースにした軍事版）を活用することで、数時間で初稿を生成できるようになった。CDAOのクレイグ・マーテル博士は「AIは人間の判断を代替するものではなく、アナリストを煩雑な文書作業から解放し、より高次元の戦略的思考に集中させるためのものだ」と述べている。

しかし批判者は、議会が報告書提出を求める本来の趣旨は行政機関に対する立法府の監視責任を確保することにあり、AIが代筆することで重要な詳細が見落とされたり、都合よく修飾されたりする恐れがあると指摘する。元国防総省監察総監顧問でプライバシー・説明責任センター研究員のリサ・グローブスは「AIが生成するコンテンツは政治的に繊細な問題に対する微妙なニュアンスを欠く可能性があり、学習データに含まれるバイアスを意図せず出力することすらある。ある報告書が『AI支援』と記されたとき、議員たちはそのデータをどう解釈するのか」と語る。

実のところ、ペンタゴンがAIに取り組むのは今回が初めてではない。2023年にCDAOを設立して以来、国防総省は無人機の自律航行からサイバーセキュリティ監視に至るまで、800件以上のAIパイロットプロジェクトを累計で展開してきた。しかし、行政報告書の執筆にAIを活用することが公式に公表されたのは今回が初めてである。

150万ユーザー：規模の背後に潜む懸念

ペンタゴンは150万人が生成AIを使用していると主張しているが、この数字は米国の現役軍人（約130万人）と文職員（約70万人）の合計のほぼ半数に相当する。CDAOは、すべてのAIツールは「ローカル化されたセキュアネットワーク」上に展開されインターネットから隔離されており、出力内容は少なくとも2名の人間による審査員の確認を経て発信されると強調する。

しかしセキュリティ専門家は、オフライン展開であっても大規模言語モデルは微細な統計的パターンを通じて学習データ内の機密情報を漏洩させる可能性があると指摘する。さらに、AIが生成する報告書の一貫性と予測可能性が、逆に敵に対して情報分析の「テンプレート」を提供してしまう恐れもある。ランド研究所のシニア研究員で元国家安全保障局AIセキュリティ責任者のペドロ・フェルナンデスは「AIが生成する報告書が固定した文体と構造を呈した場合、敵はテキストの特徴から我が方の意思決定プロセスや資源配分の重点を推測できる」と述べている。

さらに注目すべきは、ペンタゴンがAIツールを機密（SecretまたはTop Secret）レベルの資料処理に使用しているかどうかについて一切説明していない点だ。米国の「国防総省AI倫理原則」によれば、AIは「十分な信頼」が確立されていない状態で人命に関わる可能性のある判断に関与することは認められていない。報告書の作成はキルチェーンに直接関与するものではないが、誤ったコスト試算や脅威評価は予算配分の誤りを招く可能性がある。

議会の審査と法律上のグレーゾーン

米下院軍事委員会委員長のマイク・ロジャース（共和党）はこの報告を聞き、「議会が求めているのは人間の官僚による判断であり、機械が作るテンプレートではない」と述べた。同氏はペンタゴンに対し30日以内にAIを用いて作成されたすべての報告書のリストを提出し、連邦記録法の「文書の真正性」に関する要件に違反していないかどうかの評価を求めている。

法律専門家は、連邦記録法（44 U.S.C. § 3101）が行政機関に対して自らの行為を裏付ける「十分かつ適切な」証拠の記録を義務付けていると指摘する。AIによって生成された報告書が人間による「記録」と同等とみなされるかどうかについて、いまだ判例は存在しない。さらに、AIモデルの誤りによって報告内容が誤誘導された場合、責任を負うのは使用を承認した指揮官なのか、それともモデルを開発した請負業者なのか、という問題も残る。

論争が続く中、ペンタゴンはAIの普及を加速させている。CDAOは2027年までに生成AIを全軍種・国防機関に展開する計画を立てており、AIの出力とデータベースとの整合性を自動チェックする「自律的報告検証システム」の開発も進めている。

編集後記：ペンタゴンが今回声高に自賛した背景には、内部に向けた「テクノロジーによる軍の強化」というイメージの確立と、議会監視に対する一種の試探という二つの意図がある。AIが確かに効率を向上させる一方で、軍事機関と立法機関の間のチェック・アンド・バランスの関係は、技術的な近道によって弱体化させてはならない。議会報告書の起草者が意識を持たないアルゴリズムに置き換わるとき、代議制民主主義における説明責任の連鎖が断ち切られる可能性がある。また、150万ユーザーという数字は、AIが米軍の日常業務に深く組み込まれていることを示しており、これは単なる効率化ツールにとどまらず、意思決定文化そのものを変革しうる力を持つ存在だ。各国の軍事的意思決定者は警戒すべきである――AIがもたらす「利便性」によって、人間の指揮官が論理的思考の連鎖に対する制御力と内省の力を徐々に失っていくのではないかと。

本記事はArs Technicaより編訳