Metaの請負業者が未成年者を装い、競合AIに自殺や薬物について語らせる

人工知能が急速に発展する今日、チャットボットは人々が情報を得たり感情を吐露したりするための日常的なツールとなっている。しかし、これらのツールが高リスクな話題に直面した際の対応方法は、ユーザーの安全に直接影響を与える可能性がある。このほど、WIREDの調査によってMetaがAI安全テストにおいて取った積極的な手法が明らかになった。数百人の請負業者が未成年者を装い、Google GeminiやOpenAIのChatGPTなどの競合チャットボットに対して、自殺・性行為・薬物乱用などのセンシティブな質問を意図的に投げかけていたというのだ。

偽装テスト：秘密の「レッドチーム演習」？

事情を知る関係者によると、Metaがこのプロジェクトを立ち上げた当初の目的は、現実の高リスクシナリオをシミュレートすることで競合AIの防護能力を評価することだったという。請負業者たちは詳細なスクリプトに従い、13歳から17歳の青少年口調で会話を行い、チャットボットが不適切な回答——例えば自殺方法の提示、危険行動の奨励、薬物の推薦——を行ったかどうかを記録した。WIREDが入手した内部文書によれば、一部の回答には実際に危険な情報が含まれていたという。

「これは本質的に『レッドチームテスト』だが、Metaのターゲットは自社モデルではなく競合相手だ」と、匿名を希望するAIセキュリティ研究者は指摘する。「商業的競争は理解できるとしても、偽装した身分を使って他社製品を誤作動させようとすることは、深刻な倫理問題を引き起こしかねない。」

業界背景：AIセキュリティテストのグレーゾーン

実のところ、AIチャットボットに対する敵対的テストは目新しいことではない。OpenAIやGoogleなどの企業はいずれも社内にセキュリティチームを設け、定期的に自社モデルのストレステストを実施している。しかし、第三者——特に競合他社——がこうしたテストを自ら発起して結果を公開することは、通常、不正競争とみなされる。今回のMetaの行動がさらに特異なのは、請負業者が明確に身分を隠し、テスト実施者ではなく一般ユーザーを装うよう指示されていた点であり、その行為と「ユーザーリサーチ」との境界線がより曖昧になっている。

注目すべきは、米国連邦取引委員会（FTC）が近年、AI企業に対して未成年者にとって安全な製品を確保するよう繰り返し警告してきた点だ。もしMetaが誘導によって競合製品の欠陥を発見した場合、理論上は規制当局に報告することも可能だが、商業的競合他社という立場では、「他人の刀を借りて人を斬る」ような行為と見られかねない。

編集者より：AI時代における「ハッキング」の新たな形

技術的な観点から見ると、Metaの手法は現在のAIセキュリティテストにおける根本的なジレンマを浮き彫りにしている。「合理的なテスト」をどう定義するか、という問題だ。ある企業が実際の人間をユーザーに偽装させ、意図的にAIに不適切な発言をさせようとした場合、問題の本質はAIの防護不足にあるのか、それともテスト実施者の悪意ある誘導にあるのか。これは従来のソフトウェアセキュリティにおける「脆弱性発掘」とは本質的に異なる——AIモデルの出力は確率的であり、同じプロンプトでも異なる文脈では異なる回答が生成される可能性があるからだ。

さらに深い矛盾は、AI分野における商業競争がモデル性能から安全性の評判へと戦線を拡大していることだ。Meta自身も、ChatGPTなどの製品から未成年ユーザーをいかに保護するかという圧力に直面している。この偽装テストプロジェクトは、シリコンバレーで激化する「AI軍拡競争」の中で、各社が倫理的レッドラインに触れることも厭わず優位性を確保しようとする焦燥感を反映しているのかもしれない。いずれにせよ、ユーザーデータ・メンタルヘルス・ネットワークセキュリティがますます注目を集める今日において、いかなる形の操作的テストも透明性をもって精査されるべきだ。

本稿はWIREDより編訳