英国警察が巨大な犯罪予測マシンを構築、一部の結果は信頼性に欠く

英国各地の警察がAIの波に乗ろうと競い合う中、イングランドのある地域で実施された予測分析の実験が、不安を呼ぶ現実を浮き彫りにした。『WIRED』誌の調査によれば、「犯罪予測マシン」と呼ばれるこのシステムは、宣伝では犯罪を精密に取り締まる理想的な姿が描かれていたものの、その内部では深刻なデータの欠陥、アルゴリズムの偏り、そして説明のつかないエラーが蔓延していた。

都市データに潜む「予知術」

このシステムは地元警察と一社のテクノロジー企業が共同開発したもので、過去の犯罪記録・人口統計的特徴・天候パターン、さらにはソーシャルメディアの活動を分析することで、今後24時間以内に犯罪が発生する可能性の高い場所を予測することを目的としていた。警察はこれを活用して巡回ルートを最適化し、事前に警察力を配備することで潜在的な犯罪を抑止しようとしていた。しかし、『WIRED』が入手した内部評価レポートによると、この一見科学的な「犯罪天気予報」は実際の運用において頻繁に機能不全を起こしていた。

「私たちは巨大な機械学習モデルを構築した。しかし出力結果を確認したところ、予測の約30%は再現も検証もできないことが判明した」と、このプロジェクトに関与した匿名のデータサイエンティストは明かした。「まるでサイコロを振っているようなものだ。チェスをしていると思い込んでいるだけで」

レポートによると、このシステムはある繁華な商業通りを高犯罪リスク地域として繰り返し特定していたが、実際に巡回した警察官が確認したところ、散発的な万引きを除けば暴力犯罪の発生率は極めて低かった。一方、家庭内暴力や麻薬取引といった実際の多発事案はモデルに見落とされることが多かった。こうしたデータは過去の報告において過小評価されるか、不完全な形でコード化されていることが多かったためだ。この「見落とされた犯罪」により、警察は一時期、誤った場所での巡回に多大な人的・物的資源を浪費することになった。

ブラックボックスによる意思決定と透明性の困難

さらに懸念されるのは、予測モデルの説明可能性の問題だ。警察上層部はアルゴリズムが犯罪パターンを「自律的に学習」できると説明を受けていたが、なぜ特定のコミュニティが高リスクとして特定されるのかを明確に説明できる者は誰もいなかった。ある警察官は『WIRED』に対してこう語った。「今夜、これらの地域で強盗が起きる可能性があるというリストを受け取った。しかし、なぜこれらの通りで、向かいの通りではないのかと尋ねると、技術チームからは『過去のトレンドに基づいて』という曖昧な答えしか返ってこなかった」

こうした不透明性は、組織内での信頼危機を直接引き起こした。一部の警察官はシステムの予測に従ったリソース配備を拒否し、従来の経験と直感に頼るようになった。一方、別の一部はアルゴリズムの指示を盲目的に従い、「技術権威主義」とも言うべき奇妙な状況が生まれた。2025年に全面展開が予定されていた計画は、内部監査によって非白人・低所得コミュニティに対するシステム的な偏りが発見されたことで延期を余儀なくされた。

AI警務が世界に与える警告

犯罪予測技術を試みているのは英国だけではない。米国のロサンゼルスやシカゴなどの都市では2010年代にすでに類似のシステムを導入していたが、最終的にはアルゴリズムの偏り・データの汚染・地域社会からの反発といった同様の問題により、縮小または廃止された。ケンブリッジ大学犯罪学研究所の専門家は次のように指摘する。「警務における予測分析の根本的な問題は、過去の質の低いデータを用いて未来を予測しようとすることであり、その過去自体がすでに法執行の偏見によって歪められている点にある」

数々の課題に直面しながらも、英国警察はAI補助業務を諦めてはいない。モデルのより厳格な検証と人間によるレビューを実施すれば欠陥を補えると考える幹部もいる。しかし『WIRED』の調査が示すように、技術への熱意と警務の実戦の間には、依然として越えがたい溝が存在する。マシンが一見確かに見える予測を示したとき、「ノー」と言う権限を持つのは誰なのか。そして最終的に責任を負うのは人間なのか、それともアルゴリズムなのか。

本記事はWIREDより編訳