テイラー・スウィフト、肖像商標を申請、TikTokのディープフェイク広告が詐欺を暴露

近日、ポップスターのテイラー・スウィフト（Taylor Swift）は、アメリカ合衆国特許商標局に肖像商標の申請を行い、自身の顔や声などの個人特性を法律で保護する意図を示しました。この動きは偶然ではなく、WIREDの独自調査によれば、TikTokなどのソーシャルプラットフォーム上でAIディープフェイク技術を利用した偽広告が驚くべき速さで蔓延しており、スウィフトはこれらの詐欺に最も利用されているセレブの一人です。

ディープフェイク広告：精密な詐欺の罠

これらのディープフェイク広告は通常、セレブがインタビューを受けている実際のビデオクリップを取り込み、AIフェイススワップと音声合成技術を用いて、セレブの発言を製品を売り込む内容に改ざんします。例えば、スウィフトが『エレンの部屋』に出演したインタビューが改ざんされ、彼女が暗号通貨投資プラットフォームを推奨しているように見えることがあります。被害者が広告をクリックすると、正規の投資サイトのように見えるページに誘導され、名前、電話番号、メールアドレス、さらには銀行口座情報を要求されます。

「これらのディープフェイクのリアリティは驚異的で、スウィフトをよく知るファンでさえ真偽を見分けるのが難しい。」——ネットセキュリティ会社ZeroFoxの研究員エミリー・チェン（Emily Chen）氏のコメント。

WIREDの記者の調査によれば、同様の広告はTikTok上で累計数千万回再生されています。詐欺者たちはプラットフォームの精密なターゲティングアルゴリズムを利用し、広告をセレブや投資に興味があるユーザーに定向して配信し、大幅に成功率を高めています。被害者は口座から資金が盗まれた後に初めてAI詐欺に遭遇したことに気づくことが多いです。

技術原理：生成的AIの暗い側面

これらのディープフェイク広告の核心技術は生成的敵対ネットワーク（GAN）と拡散モデルです。詐欺者は少量のセレブの公開ビデオ素材を集めるだけで、リアルタイムでリアルな顔の表情と口の動きを同期するAIモデルを訓練することができます。近年、オープンソースのAIツールが普及する中、ディープフェイク動画を制作するコストは数百ドルにまで下がり、専門的な技術背景すら必要ありません。

最も懸念されるのは、これらの広告が単にセレブのイメージを盗むだけでなく、AIを利用して口の動きをリアルタイムで調整し、偽のセリフを元のビデオの口唇の動きに完璧に合わせることができる点です。注意深く見ても、破綻を見つけるのは難しいです。研究者たちは、一部の広告がユーザーのコメントやインタラクションに基づいて話術を動的に調整し、個別化された詐欺を実現していることを発見しました。

法的困難：肖像権保護の新たな戦場

アメリカの各州は個人の肖像権を様々な程度で保護していますが、現行の法律はAIディープフェイクに対処するには明らかに遅れています。例えば、セレブは通常、詐欺行為が「実質的な損害」を引き起こしたことを証明しなければ訴訟を起こすことができませんが、ディープフェイク広告の匿名の作成者は追跡が難しいです。スウィフトが今回肖像商標を申請したのは、肖像権を商標権に転換し、より直接的な法的武器を得ようとする試みです。

しかし、法律専門家は商標申請は商業利用を保護することしかできず、非商業的なディープフェイクコンテンツを完全に阻止することはできないと指摘しています。より効果的な方法は、AI生成コンテンツをプラットフォームが識別し、悪意のある使用行動に刑事責任を課すことを求める《深度伪造责任法案》のような連邦レベルの立法を推進することかもしれません。

編集者注：AI時代の信頼危機

スウィフトのケースは氷山の一角に過ぎません。政治家の偽スピーチ動画から一般人のAIフェイススワップ恐喝まで、ディープフェイクはデジタル世界の基本的な信頼を侵食しています。技術自体には罪はありませんが、規制の欠如とプラットフォーム責任の欠如が、詐欺者たちに横行の機会を与えています。ユーザーにとっては、メディアリテラシーを高め、「セレブの推薦」製品を安易に信じないことが、現時点で最も効果的な自衛手段です。プラットフォームにとっては、AI生成コンテンツを自主的に識別しマークすることが、もはや倫理的要求だけではなく、法的義務でもあります。

この記事はWIREDからの翻訳です。