トランプ政権、高齢者医療保険の審査にAIを導入——「壊滅的実験」と批判

編者注：アルゴリズムが高齢者の治療継続を左右するようになったとき、「技術は中立である」という神話は自ずと崩れ去る。本稿が問うのは個々の保険金請求紛争ではなく、自動化によって根本から作り替えられつつある医療保障の論理そのものである。

「壊滅的実験」と呼ばれる政策

Ars TechnicaのライターBeth Moleの報道によれば、トランプ政権は高齢者向け医療保険の保険金請求審査プロセスに人工知能システムを大規模に導入しつつある。批評家はこの動きを「壊滅的実験」と形容する——実験台に乗せられているのは自発的な参加者ではなく、連邦医療保険に依存する数百万人の高齢患者だ。

報道の核心的な判断は鋭い。これらのAIツールを展開するベンダーは中立な技術サービス事業者ではなく、削減した医療費や拒否した請求の割合に応じて報酬を得る請負業者だ。つまり、アルゴリズムが「ケチ」であればあるほど、ベンダーの利益は大きくなる。

AIを導入するベンダーには「できる限り多くの請求を拒否するインセンティブ」が存在する。

アルゴリズムはいかにして給付拒否を学ぶか

米国の医療保険体系では、民間保険会社が引き受けるMedicare Advantageプランが長年にわたり「事前承認（prior authorization）」の仕組みに依存してきた。患者が特定の治療や投薬を受ける前に、保険会社の承認を得なければならないというものだ。本来は不要な支出を抑制するための仕組みだが、実際には引き延ばしや給付拒否の手段として機能することが少なくない。

AIの介入により、このプロセスは劇的に加速した。機械学習モデルは数億件の過去の請求データで訓練され、その目標関数はしばしば「給付支出の削減」に直接向けられている。モデルはカルテが映し出す臨床的現実を理解しない。学習するのは統計的相関だ——どの診断コードが、どの医療機関が、どの患者層の申請が、不服申し立てを招かずに却下されやすいか。結果として、慢性疾患患者、希少疾患患者、長期ケアを必要とする高齢者が真っ先に被害を受ける。

この種の問題が浮上するのは今回が初めてではない。以前、UnitedHealthグループ傘下のnH Predictアルゴリズムに対する訴訟では、長期ケアの必要性を予測する際に最大90%の誤り率があったにもかかわらず、術後ケアを組織的に打ち切るために使用されたと指摘された。米上院の小委員会による調査も、一部の保険会社ではアルゴリズム導入後に拒否率が顕著に上昇したことを明らかにしている。今や同様のツールが連邦医療保険の審査プロセスにより広範に展開されようとしている。

鍵を握るのはベンダーのインセンティブ構造

問題の本質はAIが「偏っている」という抽象的な議論にあるのではなく、インセンティブ構造にある。請負業者の報酬が拒否件数と連動しているとき、自動化はそのインセンティブを増幅させるだけだ。人間の審査員は同情や専門的判断から一部の申請を通すことがあるが、アルゴリズムにはそれがない。膨大な申請をミリ秒単位で処理し、しかも理由をほとんど説明しなくて済む。

「できる限り多くの請求を拒否するインセンティブが存在する」——この一言が、自動化が医療保険の領域で特に危険な理由を説明している。

さらに懸念されるのは、責任の連鎖が曖昧になることだ。アルゴリズムはベンダーが開発し、審査は保険会社が執行し、監督は連邦機関が担う。何か問題が生じれば、患者が直面するのは三者が互いに責任を押し付け合う「ブラックボックス」だ。

高齢者が払う代償

高齢者にとって、一度の誤った給付拒否は、がん治療の中断、インスリン注射の停止、あるいは在宅ケアの喪失を意味しかねない。不服申し立ての窓口は名目上存在するが、手続きは長く、書類は複雑で、多くの高齢患者には到底対処しきれない。給付拒否が自動化によって大量に発生するとき、個人がそれを一件ずつ争うことはほぼ不可能だ。

遅れる規制と制度の空白

米国の医療保険・医療扶助サービスセンター（CMS）は近年、事前承認の透明性強化を図り、保険会社に拒否データの公開や審査速度の向上を求めてきた。しかしこれらの規則は主として人手による手続きを対象としており、AI支援による意思決定の説明可能性、監査の仕組み、責任の帰属についてはほぼ手つかずのままだ。アルゴリズムの過ちに誰が責任を負うのか——請負業者か、保険会社か、それとも政府か。現時点では明確な答えがない。

おわりに

技術そのものが問題なのではない。問題は、効率が唯一の基準として崇められ、節約した1ドルがすべて業績として計上されるとき、アルゴリズムがコスト削減の完璧な口実になることだ。給付拒否を最適化目標とするシステムに高齢者の医療保障を委ねることは、どれほど先進的に見せかけようとも、本質的には人命を変数とした実験にほかならない。

本稿はArs Technicaの記事をもとに編集・構成した。