英国内務省がChatGPTで庇護申請を審査、調査の可能性に直面

WIREDの報道によると、英国政府の監督機関が英国内務省（Home Office）に対する正式調査の開始を検討している。調査の検討を促した発端は、内務省が庇護申請（asylum claims）の処理プロセスにおいてOpenAIのChatGPT関連技術を使用していたことにある。これらのツールの精度への疑問と、同省の技術利用方法に関する秘密主義的な姿勢が、ともに争点となっている。

事件の核心：AI介入による庇護審査が説明責任を問われる

庇護申請の審査は、国家の公共サービスの中でもリスクが最も高く、当事者への影響が最も直接的な業務の一つである。審査の結論は申請者が強制送還されるかどうか、身体的危険に晒されるかどうかに関わることが多く、正確性・説明可能性・手続きの公正性に対して極めて高い要求が課される。まさにこのような「誤りが許されない」領域において、内務省がChatGPT類の生成AIツールを使用していたことが暴露され、報道が伝わるや否や広く注目を集めた。

報道によれば、監督機関が注目しているのは「AIを使用したかどうか」という点そのものではなく、より具体的な二つの問題である。第一に、こうしたツールが庇護関連資料を処理する際の精度が実際にどの程度のものか、誤判断・見落とし、あるいは存在しない内容の生成が起こる可能性があるかどうか。第二に、内務省が関連ツールの利用範囲・導入方法・評価結果について口を閉ざしており、外部からコンプライアンスの確認が困難であるという点だ。個人の運命に直接影響を与える意思決定システムが「ブラックボックス」の中に置かれれば、調査を求める声が高まるのは当然である。

「多くの国の政府にとって、問題はもはや『AIを使うかどうか』ではなく、『最も脆弱な人々を傷つけていないことをどう証明するか』になっている。」

なぜこの種のシナリオで精度がこれほど重要なのか

生成AIの中核的な動作メカニズムは確率に基づくテキスト生成であり、要約・言い換え・まとめを得意とするが、事実検証能力を本質的には備えていない。庇護審査の場面では、モデルが申請者の陳述を整理する際に存在しない情報を「滑らかに」補完してしまう可能性があり、言語翻訳や国別背景の判断といった段階でも誤りが生じ得る。一字一句を精査される必要がある証言において、いかに些細な歪みであっても結論の方向性を変えてしまいかねない。

同時に、この種のシステムには説明可能性が不十分という問題もある。従来の自動化ツールは通常、ルールやパラメータを遡ることができるが、大規模言語モデルの出力は明確な推論の連鎖を示すことが難しい。申請者がAIの支援によって下された判断に異議を唱えようとしても、ほとんど手がかりがない——これは手続き的正義の根幹に直接触れる問題である。だからこそ「精度」への懸念は、実際には「不服申し立て可能性」と「説明責任」への懸念でもある。

秘密主義的文化が外部の不信感を増幅させる

報道は特に、内務省がこれらのツールを使用する際の「秘密主義」的な状態が監督機関を不安にさせていると指摘した。政府機関が新技術を導入する際には通常、影響評価・データ保護審査・内部試験運用を経るが、これらの情報を公開するかどうかは地域によって大きく異なる。透明性が欠如している状況では、訓練や呼び出しに使用されたデータに申請者の機密個人情報が含まれているかどうかを外部から確認する術がなく、人的な再審査のプロセスが実際に存在するか、また有効に機能しているかどうかも判断できない。

この状況は英国に限った話ではない。過去2年間、複数の国の公共部門が大規模言語モデルを文書起草・資料要約・案件の振り分けに活用することを模索してきた。支持者は業務効率の向上と積滞案件の解消を強調する一方、批判者は「自動化バイアス」と責任の希薄化を警告している。今回の英国の論争の意義は、普遍的な問題を改めて俎上に載せたことにある。AIが国家権力行使の中核部分に入り込んだとき、公開と審査は選択肢ではあってはならない。

編集後記：政府がAIを使う前に答えるべき三つの問い

より広い視点から見ると、この潜在的な調査は各国政府に対して、生成AIを導入する前に少なくとも三つのことを明確に答えられなければならないことを示唆している。第一に、ツールがプロセスの中でどのような役割を果たしているか——補助的な要約なのか、それとも実質的に結論に影響を与えているのか。第二に、精度がどのように独立した形で検証されているか、誤り率と失敗パターンが公開されているかどうか。第三に、決定に疑義が呈された場合、当事者が有効な説明と救済の手段を得られるかどうか。この三つの問いに納得のいく答えがなければ、いかなる「効率の恩恵」も脆弱な社会的信頼の上に築かれたものに過ぎない。

現時点で監督機関はまだ「調査するかどうかを検討する」段階にあり、内務省が技術的詳細を全面的に開示するかどうかも未定である。しかし予見できることは、生成AIが移民・福祉・警察業務といったリスクの高い行政サービスの場面に急速に広がるにつれ、同様の精査はますます増えていくということだ。政府機関にとって、情報が暴露された後に受け身で対応するよりも、透明性の高い評価・開示の仕組みを主体的に構築する方が賢明である——それはコンプライアンス上の要請であると同時に、公共の信頼を維持するための前提条件でもある。

本稿はWIREDより編訳