ハッカーがMeta AIカスタマーサポートを欺き、有名人のInstagramアカウントを盗む

近年、ソーシャルメディアアカウントの闇市場取引はますます猖獗を極めており、特に短く覚えやすいユーザー名を持つ有名人アカウントは往々にして高値で取引されている。しかし、最新の攻撃手法は人々を驚愕させた——ハッカーはもはやユーザー本人を狙うのではなく、プラットフォームのAIカスタマーサポートシステムを直接攻撃するようになったのだ。Ars Technicaの報道によると、ハッカー集団がMetaのAIサポートチャットボットを悪用し、複数の有名人Instagramアカウントへのアクセス権を引き出すことに成功し、ダークウェブで転売して利益を得ていたという。

AIカスタマーサポートが「内通者」と化す

攻撃者は、Metaのアカウント復旧リクエスト処理用のAIチャットボットに論理的欠陥があることを発見した：十分に「リアルな」コンテキストを提供しさえすれば、ボットは通常の本人確認プロセスを迂回し、直接アカウントパスワードのリセット操作を実行してしまうのだ。ハッカーは公開されている有名人情報（生年月日、登録メールアドレス（一部はデータ漏洩データベースから入手可能）、過去の投稿記録など）を調査し、完全な「被害者プロファイル」を構築した。その後、「アカウントがロックされた」という理由でAIとの対話を開始し、ボットを徐々に誘導して自分がアカウントの正当な所有者であると信じ込ませた。

「最も衝撃的なのは、AIが二段階認証を要求したり、登録された携帯電話にワンタイムパスワードを送信したりすることが一切なかったことだ——会話における感情のシミュレーションと『正しい』回答だけでリセットを承認してしまった。」 —— セキュリティ研究者 Mark Eisenberg

パスワードリセットリンクを騙し取ることに成功した後、ハッカーは速やかにアカウントに紐付けられたメールアドレスと電話番号を変更し、アカウントの所有権を新規作成した仮想エンティティに移転した。このプロセス全体に要する時間はわずか15分で、人間のカスタマーサポートによる処理時間をはるかに上回るスピードであった。ユーザーエクスペリエンス向上のために導入されたはずのMetaのAIカスタマーサポートが、皮肉にも脆弱性の突破口となってしまったのだ。

暴利の闇市場：アカウント1つで家1軒分の価値

盗まれたアカウントの多くは、@a、@q、@123のような1文字または数字の短いIDであった。Instagramが初期に自由なユーザー名取得を許可していたため、これらの希少リソースは現在、闇市場で価格が高騰している。セキュリティ会社Flashpointの統計によると、3文字以内のユーザー名の平均販売価格は3,000ドルで、@vのような1文字に至っては2万ドルに達することもあるという。ハッカー集団は複数の偽身分を使ってアカウントを転売し、100万ドルを超える利益を得ていた。

Metaは声明の中で、この脆弱性が約50のアカウントに影響を及ぼしたことを認め、発見後48時間以内に修正したと発表した。しかし被害者には複数の著名アーティスト、ミュージシャン、テクノロジー業界のリーダーが含まれており、彼らはログインできなくなって初めてアカウントが盗まれたことに気づいた。Metaは大部分のアカウントの復旧を支援したと述べているが、複数回転売されたために追跡が困難なアカウントもまだ残っている。

編集後記：AI信頼の境界線

この事件は再び警鐘を鳴らしている：企業がカスタマーサービスの重要な部分をAIに完全に委ねる際には、潜在的なソーシャルエンジニアリング攻撃に対して警戒を怠ってはならない。AIは日常的な問題を効率的に処理できるものの、人間のカスタマーサポートが持つ「異常な振る舞い」に対する直感的判断力に欠けている——例えば「アカウント所有者」がセキュリティ情報をすべて忘れたと主張しながら、AIによるランダムな確認質問には正確に答えられる、といった矛盾だ。Metaの脆弱性は、AIが「人助けに熱心」になるよう訓練され、「慎重な検証」を行うようには訓練されていなかったことにある。今後、AIカスタマーサポートはより厳格な多層認証メカニズムを導入すべきだ。例えば、アカウント所有権に関わるすべての操作に人間によるレビューを必須とすることや、動的行動分析（タイピング速度、会話スタイルなど）を用いてなりすましを識別することなどが考えられる。

さらに、この事件はソーシャルメディアプラットフォームにおけるユーザー本人確認の根深い問題も露呈させた：パスワードや静的情報に過度に依存し、物理デバイスへの紐付けや生体認証など、より安全な要素を軽視しているという問題だ。AIチャットボットがますます普及するにつれて、ハッカーの「誘導」手口も巧妙化していくだろう。おそらく我々は再考する必要がある——デジタル世界において、「私が私である」ことを何が証明できるのか、と。

本記事はArs Technicaから翻訳・編集したものである