無実の人を誤認逮捕：米国最古の警察用顔認識ツールが機能不全に

先日、米国市民自由連合（ACLU）はフロリダ州の二つの警察署を提訴し、児童誘拐事件において無実の男性を誤って逮捕したと訴えた。この事件の根本原因は、警察が使用していた米国最古の顔認識ツールの一つにあった。このツールは被害者の顔画像を容疑者データベースと照合し、誤った「高度な類似性」の結果を出力したが、警察はそれをほぼ確定的な身元確認とみなしてしまった。

事件の経緯：誤った照合

ACLUが提出した訴状によれば、2025年、フロリダ州フォートマイヤーズの男性が児童誘拐事件への関与疑惑で警察に逮捕された。警察は、顔認識システムを通じて被害者の説明と一致する容疑者を特定したと主張した。しかし、実際の調査では、照合結果は完全に誤りで、この男性は事件と何ら関わりがなかったことが判明した。ACLUは、警察が逮捕前に十分な二次確認を行わず、AIツールの曖昧な照合結果だけで行動に出たことで、原告の憲法上の権利を侵害したと主張している。

「このツールは信頼性のある識別手段ではなく、確率的なヒントにすぎない。しかし法執行機関はそれを確固たる証拠として扱っている。」——ACLU訴訟代理人弁護士の陳述

技術的背景：古いツールに潜む懸念

当該の顔認識システムは、米国警察が最も早期に導入したツールの一つとされ、2010年代初頭に開発された。当時、顔認識技術はまだ未成熟で、アルゴリズムは人種、肌の色、照明条件に対する頑健性が乏しかった。長年にわたり、複数の研究で、このようなシステムは肌の色が濃い人々の識別における誤り率が高いことが指摘されてきた。フロリダ州の人口構成ではアフリカ系およびラテン系の割合が高く、誤検出のリスクをさらに拡大させている。ACLUは訴訟の中で、警察が技術的欠陥を無視し、依然としてそれを法執行判断の中核的根拠としていることを特に強調している。

同じ時期、他の州（マサチューセッツ州、カリフォルニア州など）では、警察によるリアルタイム監視での顔認識利用を制限または禁止し始めていたが、フロリダ州の複数の警察署は依然として旧バージョンのシステムを使用し続けていた。業界データによれば、2026年までに市場の主流の顔認識アルゴリズムの誤り率は1万分の1以下に低下しているが、旧型ツールの誤検出率は5%以上に達する可能性がある。これは20回の照合のうち1回は誤りが発生する可能性があることを意味するが、警察は他人の自由をそれに賭けていることになる。

編集者注：技術は基本的正義の代替にはならない

この事件は、改めて警鐘を鳴らすものとなった。AI技術は確かに法執行の効率を向上させることができるが、決して公正さを犠牲にしてはならない。警察が未成熟な顔認識ツールを逮捕の唯一あるいは主要な根拠とすることは、本質的に技術的欠陥を無実の市民に転嫁することにほかならない。ACLUの訴訟は、単に二つの地方警察署を対象としているだけでなく、法執行システム全体における「技術崇拝」への反省でもある。司法実践の観点から見れば、いかなる技術的判断にも人による再確認のプロセスが含まれるべきであり、特に人身の自由に関わる逮捕行為については特にそうである。さもなければ、AIは正義を支援するどころか、冤罪を生み出す共犯者となってしまう。

注目すべきは、訴訟提起後、フロリダ州関連部門は当該顔認識ツールの使用を一時停止し、その適用性を再評価する方針を示したことである。しかし、ACLUは、類似のシステムが全米で依然として広く使用されており、連邦レベルでの統一的な規制基準が欠如していると警告している。解決策は技術を禁止することではなく、より厳格な検証プロセスと説明責任のメカニズムを構築することにある。

本記事はWIREDから翻訳・編集したものである。