エージェント型AIが政府へ：機械による意思決定の境界が新たな試練に

アラブ首長国連邦（UAE）は人工知能分野における先駆者であり続けてきた。2017年10月、同国は国家AI戦略を発表し、その数日後には専任大臣ポストを新設。当時27歳のオマル・スルタン・オラマを世界初のAI担当国務大臣に任命した。この7年間、UAEはコンピューティング能力と人材エコシステムの構築に数十億ドルを投じ、医療から交通まであらゆる分野にAIを浸透させてきた。しかし、AIが補助ツールから自律的に意思決定を行う「エージェント型AI（Agentic AI）」へと進化したとき、この先進国は真の難題に突き当たった。それは、機械が人間に代わって何を決定できるのかを定めるという問題だ。

「補助」から「代理」へ：AIの役割の変容

「エージェント型AI」とは、目標を理解し、行動を計画し、タスクを自律的に実行できるAIシステムを指す。従来のチャットボットや予測モデルとは異なり、単に提案を行うだけでなく、直接行動を取ることができる。政府の場面においては、許認可の審査、生活補助金の支給、公共資源の配分といった行政事務を自動化し、人的コストを大幅に削減できる。UAE政府はすでにAIカスタマーサービスと自動納税システムの試験運用を開始しており、その効率性は担当官僚に深い印象を与えている。

しかし、こうした「積極性」は懸念も呼んでいる。AIが意思決定権を持つようになると、それはもはや純粋なツールではなく、「行為主体」となる。政府は次の問いに答えなければならない。どの意思決定をAIに委ねられるのか？どの意思決定は人間が担い続けなければならないのか？たとえば、AIは年金受給資格の審査を決定できるのか？緊急事態において災害救援資源の配分を決定できるのか？こうした決定は市民の権益に直接影響し、ひとたび誤りが生じれば、その結果は計り知れない。

機械による意思決定の「グレーゾーン」：倫理と法律の二重の問い

UAEではAIガバナンスの枠組みが初歩的に整備されているが、エージェント型AIを専門に対象とした規則はいまだ存在しない。匿名を条件に取材に応じたある官僚はこう述べた。「私たちはAIを展開するのは得意だが、それを制限する方法をまだ学べていない。」この難題はUAEに限った話ではない。米国ホワイトハウスがかつて発出したAI大統領令は連邦機関にAIリスクの評価を求めるにとどまり、明確な意思決定権限のリストは示していない。EUの「AI法」は高リスクAIを厳格な規制対象としているが、政府の意思決定が「高リスク」に該当するかどうかはいまだ議論の最中だ。

「政府におけるエージェント型AIは、最も困難な部分——機械が何を決定できるかを決めること——にたった今ぶつかった。」これこそが現在のAIガバナンスの核心的命題である。

さらに根深い問題は説明責任にある。AIシステムが誤った決定を下し、市民が訴訟を起こした場合、被告は誰か？アルゴリズムの開発者か、データ提供者か、それとも政府当局者か？AIに潜在的な偏見が存在する場合、誰がその是正義務を負うのか？こうした法的空白は技術の実装を阻むだけでなく、国民の信頼をも侵食する。UAEのシンクタンクが最近発表した報告書によれば、AIによる行政上の意思決定に対する明確な不服申立て窓口を整備している国は、世界全体の約12%にすぎない。

他国の取り組み：国際社会の模索

同じ課題に直面しながらも、各国はそれぞれ異なる解答を模索している。シンガポールは「政府AIガバナンスガイド」を策定し、人間の官僚が最終的な拒否権を持つことを強調している。カナダは「自動化意思決定指令」を設け、AIによる決定には説明レポートの添付を義務付けている。中国もアルゴリズム監査制度の整備を加速させており、行政用アルゴリズムへの外部監督の導入を検討している。中東のテクノロジーハブとして、UAEはより実用的なアプローチを模索している。まず試験運用を行い、その後に立法を行うという形で、実際の場面を通じてルールの反復的な改善を促すというものだ。

編集後記：人間と機械の共同統治、機械による独裁ではなく

UAEの実践から見えてくるのは、エージェント型AIが政府に導入される流れはもはや不可逆だということだ。しかし、技術は民主的な責任の上に立つべきではない。機械は迅速に計算し、照合し、推薦することができる。しかし、最終的な承認権、監督権、説明権は人間が保持しなければならない。理想的なAI行政は「人間と機械の共同統治」モデルであるべきだ。人間がルールを設定し、AIはそのルールの範囲内で実行する。人間が例外を処理し、AIは通常業務を処理する。そうして初めて、効率と権利のバランスを見出し、AIを真に公益のための助手とすることができる。AIを、ブラックボックスの中の新たな支配者にしてはならない。本稿はAI Newsより編訳。