英国金融規制当局が警告：AI活用が規制の「軍拡競争」を引き起こす

英国金融行動監視機構（FCA）のサラ・プリチャード（Sarah Pritchard）市場執行ディレクターは今週のフィンテック会議で厳しい警告を発した。金融サービス分野におけるAIの活用は「指数関数的な速度」で拡大しており、規制当局は技術の進歩に追いつくために「拡大された権限」を獲得しなければならないと述べた。彼女は現在の状況を「軍拡競争」と表現し、規制当局と市場参加者がAIがもたらす複雑な影響を理解・制御しようと競い合っていると指摘した。

AIが個人の財務意思決定を再構築

プリチャード氏は、スマート予算管理アプリから自動投資アドバイザー、信用スコアリングモデルまで、英国の消費者がAI駆動のツールに依存して個人財務を管理するケースが増加していると指摘した。「数百万人の日常的な財務上の意思決定がアルゴリズムに主導されているが、そのアルゴリズムの背後にある前提や偏りを十分に理解している人は多くない」と強調した。AIはユーザーがより合理的な選択をするのに役立つ一方で、顧客が最も透明な情報を必要としている時に偏ったアドバイスを提供するなど、システミックリスクを増幅させる可能性もあると述べた。

「これはAIを使うべきかどうかという問題ではなく、いかに責任ある使い方を確保するかという問題だ。消費者を未検証のアルゴリズムの実験台にするわけにはいかない。」——サラ・プリチャード

規制上のジレンマと権限拡大への要求

現在FCAのAI規制は、「金融サービス・市場法」における消費者保護義務など、既存の金融法規フレームワークに依拠している。しかしプリチャード氏は、生成AIの「ブラックボックス」的な性質に対処する上で、これらのルールは力不足だと考えている。同氏はFCAに対し、より多くのデータアクセス権、アルゴリズム監査権、および高リスクなアプリケーションを緊急停止させる権限を付与するよう求めた。EUの「AI法」に見られるリスク分類型の規制アプローチが世界的に注目されているが、英国はブレグジット後、独自の適合体制を構築する必要がある。

業界背景とグローバルなトレンド

実際、金融業界へのAIの浸透は世界中の規制当局が共通して抱える懸念となっている。米国消費者金融保護局（CFPB）は昨年、銀行がAIを用いて信用評価を行う際のガイダンスを発表し、人種や性別による差別の排除を強調した。シンガポール金融管理局（MAS）は「AIの公平性検証フレームワーク」を立ち上げた。マッキンゼーの最新レポートによると、2030年までにAIは世界の銀行業界に年間2000億ドルを超える価値をもたらす可能性があるが、規制されなければ2008年以来最大の信頼危機を招く恐れもある。

編集後記：イノベーションとリスクのバランス

プリチャード氏の「軍拡競争」という比喩は的を射ている——技術の反復速度がルール策定の速度をはるかに上回るとき、規制当局は加速して追いかけるか、混乱を放置するかの二択を迫られる。FCAの権限拡大要求は一見合理的に見えるが、過度な介入がイノベーションを阻害しないよう注意が必要だ。より現実的なアプローチとしては、規制当局とテクノロジー企業が共同で「セーフサンドボックス」を構築し、実際の環境でAI製品のコンプライアンスと公平性をテストすることが考えられる。同時に、消費者の金融リテラシーの向上も無視できない——最終的な決定権は人間の手に委ねられるべきだ。

本記事はArs Technicaより翻訳・編集