予測市場の賭けが逮捕の証拠に――テック界の大物たちが語る「不正なAI」の的外れな議論

最新回の『Uncanny Valley』ポッドキャストで、WIREDの記者Brian Barrett、Zoë Schiffer、Leah Feigerが、一見無関係でありながら同じ根本的な論理を共有する3つのニュースを取り上げた。予測市場が賭け手を連鎖的なトラブルへと引き込んでいること、Flock社が警察向けの高性能AI検索ツールを発表したこと、そしてテック界の男性たちが「不正なAIエージェント」について的外れな語り方をしていること、の3点だ。いずれも技術の暴走を示す傍注のように聞こえるが、個別に見れば、技術の世界における効率と責任の綱引きをそれぞれ映し出している。

予測市場での賭けが「犯罪の証拠」になりつつある

予測市場はもともと、デジタル時代の「確率的な意見交換」として設計された。ユーザーが実際の資金であるイベントの発生に賭け、市場が集合的な判断を導き出す仕組みだ。2024年の世界的な選挙シーズン中、Polymarketなどのプラットフォームが一夜にして注目を集め、ウォール街までもが関心を寄せた。しかし熱狂の裏側で、現実世界の代償が露わになり始めた。センシティブなイベントに賭けたトレーダーがプラットフォームから永久追放されるケースが出てきており、インサイダー情報や資金洗浄に絡む賭け手が当局の調査対象となり、実際に逮捕された事例もある。WIREDが今週報道した案件では、ある人物がただ「間違ったタイミングに間違ったイベント」へ賭けただけで禁止命令を受けるという不条理な事態が明らかになった。つまり、予測市場はけっして単なるゲームではない。いつでも法的な一線を越える可能性があり、プラットフォームはコンプライアンスのためにユーザーを最初に切り捨てる。

さらに微妙なのは、選挙が終わると、こうしたプラットフォームが暗殺・戦争・疫病・業界大手の人事異動といった、より刺激的なテーマへと関心を移し始めている点だ。極端なイベントであればあるほどオッズは魅力的になり、プラットフォームもトラフィックを得やすい。しかしこうした事象は、現実世界の犯罪や安全上のリスクを同時に伴うことが多い。執法機関は高額で買い込んだ「予言者」に目を向け始めており、たとえ実際には何も行動していなくても捜査対象となりうる。一般ユーザーも、統計的な裁定取引や娯楽としての興奮という幻想の中で、法的な境界線を軽視しがちだ。結局のところ、予測市場の持つ効率的な価値は、リスク判断における傲慢さを相殺するものではない。

予測市場は「賭ける」と「唆す」、「予測する」と「煽動する」の境界を曖昧にしつつある。そして裁定者は往々にして法廷ではなく、プラットフォームの免責事項の中にいる。

Flock：警察がいつでも都市全体を検索できる時代

もう一つ注目を集めたのが、AIカメラ監視企業Flock Safetyだ。同社は米国各地のコミュニティに多数のナンバープレート認識カメラを展開しており、今回新たにAI検索ツールを発表した。警察はもはや映像を繰り返し確認する必要はなく、「スーパーとガソリンスタンドを通過した黒いピックアップトラック」といった自然言語による記述を入力するだけで、システムが複数のカメラ映像から迅速に絞り込みを行う。一見すると便利に思えるが、WIREDの見解は明快だ。法的規制がほとんど存在しない状況下で、このようなツールは警察に対して前例のない、監視の及ばない都市規模のデータベースを与えることになる。監視システムがAIと接続された途端、その規模化効果が既存の偏見や乱用を加速させる。多くの納税者は、自分たちのコミュニティのカメラが警察のシステムに接続されていることすら知らない。技術が高度になればなるほど、沈黙のコストは高くなる。

「不正なAI」をめぐる言説の症候

今回の放送で最も面白かったのは、テック界における「rogue AI agents（不正なAIエージェント）」をめぐる議論の解体だ。いわゆるテックブロたちがようやく難解な概念を覚えたと思ったら、「rogue」を「rouge（口紅）」と綴り間違える始末で、まるでAIがメイクブラシのようだ。彼らが想像する暴走シナリオは、システムエンジニアリングの知見ではなく、ChatGPTの続き書きから来ているようにしか見えない。WIREDの司会者は、「AIエージェント」を自由意志を持ち主人に反旗を翻す小怪物として描写することの中で唯一誠実な点は、モデルの振る舞いが完全には予測できないと認めていることだと指摘する。しかし開発者にとっての真のリスクは、あるモデルが突然「悪意を持つ決断」をすることではなく、まだ十分に信頼性が確立されていないモデルを、求職・与信・警察用機器といった現実の意思決定に早々に組み込んでしまうことにある。「責任」を「天命」と名付けることは、現在のAI議論における最も危険な責任逃れだ。

編集後記：すべての問題を「知性」のせいにするな

WIREDの司会者は今回の放送でひとつの比喩を提示した。いわゆるAIの壊滅的リスクとは、予測市場のバブルによく似ているというものだ。確率は高いと言えるが、自分が直接参加する必要はない。テック企業は好んで壮大な寓話を語り続けるが、一般の人々が払う代償はAIによる誤判断であったりアカウントの喪失だったりする。だからこそ、私たちが本当に必要としているのはSF的な警告をさらに増やすことではなく、今日から明確に問い直すことだ。システムのルールを誰が決めるのか。訓練とデプロイを誰が監督するのか。警察のAIがデータを取得するとき、コミュニティはどこへ訴えればいいのか。3つのニュースの根底にある色調は一致している。技術は旧来の法的枠組みを突き破りつつあるが、公共的な議論はまったく追いついていない。次の話題が到来する前に、まずこれらの問題をきちんと清算しなければならない。

本記事はWIREDより編訳