AIエージェントが福祉給付を大量申請、公共サービスシステムに負荷

編集注：AIエージェントが人間に代わって「手続き代行」を始めたことで、公共サービスの窓口が初めて人間ではなく、疲れ知らずの自動化プログラムの群れと向き合う時代が到来した。申請件数の急増は必ずしも不正利用を意味するものではなく、むしろ長年黙って見過ごされてきた権利がついに行使されたものである可能性がある。

過去2年間で、AIエージェント（AI Agent）はデモ動画の中から現実のビジネスプロセスへと進出した。Webページを開き、フォームに記入し、書類をアップロードし、進捗を追跡できるこれらのエージェントは、理論上、繰り返しの多い行政手続きのほぼすべてをユーザーに代わって実行できる。そしてこの能力が公共サービス分野——住宅補助、失業給付、医療扶助、税額控除——に活用されるようになったことで、事態は新たな様相を呈し始めた。

TechCrunchの記者Russell Brandonの報道によると、複数の公共サービス機関で申請件数の異常な増加が見られ、その背景にあるのがこれらの自動化されたAIエージェントだという。人々が懸念した「ボットによる不正申請」や「組織的詐欺」とは異なり、研究者たちが実際に調査した結果、予想外の結論が得られた。

「調査した事例の大多数は、もともとその給付を受ける資格があった人が、その給付を申請したというものでした」と、ある研究者はTechCrunchに語った。

エージェントが「フォーム記入」を習得したとき

この現象を理解するには、まず公共サービスの申請プロセスが抱える不条理を理解する必要がある。米国の補助的栄養支援プログラム（SNAP）、勤労所得税額控除（EITC）、各州のメディケイドを例に取ると、多くの福祉プログラムの申請書類は数十ページにも及び、収入・住所・家族構成・資産状況を繰り返し証明しなければならず、さらに特定の期間内に更新手続きを行う必要がある。低所得者、不規則な労働時間の人、言語能力が限られた人々にとって、この手続き自体が見えない障壁となっている。

学術研究では長年、受給資格があるにもかかわらず給付を申請していない人の割合が、複数のプログラムで20〜40%に上ると推計されてきた。これは人々が必要としていないからではなく、手続きのコストが高すぎるからだ——金銭的なコストではなく、時間・労力・認知的負荷のコストである。AIエージェントの登場は、このコストをほぼゼロにまで引き下げた。

ユーザーがエージェントに自分のアカウントと認証情報へのアクセスを許可するだけで、エージェントは自動的に資格要件を照合し、申請書類を作成し、期限通りに提出して進捗を追跡する。こうして、2〜3年前に提出されるべきだった申請が、わずか数ヶ月のうちに政府システムへ集中的に流れ込んだ。

詐欺ではなく「受け取られなかった正当な権利」

これは、政策立案者を困惑させてきたある矛盾を説明するものだ。申請件数は急増しているにもかかわらず、詐欺率は同じ水準では上昇していない。行政機関は伝統的に異常なトラフィックに対して高い警戒心を持っており、歴史的に組織的な給付詐欺が存在したことも事実だ。しかし今回は、データのパターンが異なっていた——申請者の身元は本物、書類も本物、資格も本物であり、異なるのは提出の速度と規模だけだったのだ。

言い換えれば、AIエージェントは新たな権利を生み出したのではなく、既存の権利を実際に行使可能な形にしただけだ。倫理的な観点からはこれは朗報だが、運営面では厄介な問題を引き起こす。公共サービスシステムの処理能力・予算・人員は、「法律上の受給資格総数」ではなく「過去の申請率」を基に配置されているからだ。

システムへの二重の圧力：処理能力と人的資源

第一は技術的な圧力だ。政府のITシステムの多くは10年以上前に構築されており、並行処理能力は限られ、防御機能は正当な自動化ではなくボット攻撃を想定したものだ。短時間でトラフィックが数倍に膨れ上がると、システムクラッシュ、CAPTCHAの機能不全、APIのレート制限が常態化し、正当なユーザーとエージェントが共に締め出される事態となる。

第二は人的な圧力だ。申請がシステムによって提出されたとしても、最終的な審査・面談・例外処理には人間の介入が必要だ。案件の積み残しは、本当に支援を必要としている人の待機時間を長引かせることを意味し、これは自動化の本来の目的とは正反対の結果をもたらす。

さらに根本的な問題は予算の論理にある。福利厚生プログラムの年間予算には通常上限があり、申請者数が予想を超えると、機関は追加予算を申請するか、審査基準を厳格化して却下率を高めるかの選択を迫られる。後者は実務上、真に脆弱な立場にある人々が不当に不利益を受けることを意味することが多い。

制度設計における新たな課題

エージェントがもたらす「合法的な申請の洪水」に対して、公共部門にはおおよそ三つの対応策がある。一つ目は受動的な制限——人による本人確認の義務付けや自動化アクセスの制限だが、これは最も支援を必要としている人も同時に排除してしまう。二つ目は積極的な処理能力の拡充——システム容量と審査プロセスを過去の申請率ではなく法律上の資格総数に基づいて再設計し、認証済みのサードパーティエージェントに対してAPIによる標準化されたアクセス経路を提供するというものだ。三つ目はプロセス自体の再考——AIが申請手続きを容易にこなせるならば、その手続きはそもそも簡略化、あるいは廃止されるべきではないのかという問いかけだ。

注目すべきは、この変化が福祉分野だけで起きているわけではないという点だ。税務申告、運転免許証の更新、営業許可証、訴訟の提起など、あらゆる分野で同様の自動化の浸透が進んでいる。公共サービスが初めて対峙する「AIユーザー」は、チャットボットではなく、大量の手続きを一括処理するエージェントなのだ。

政策立案者にとっての本質的な問いは「エージェントをどう阻止するか」ではなく、「権利行使のコストがゼロになったとき、制度はそれを受け止める能力を持っているか」である。これは技術的な負荷試験であると同時に、公共資源の配分ロジックの根本的な見直しを迫るものでもある。

本稿はTechCrunchより編集・翻訳した。