MetaがAI脱衣広告を放置か――未成年少女の写真が標的に
非営利団体「American Justice for Kids」の調査により、MetaのFacebook・Instagram上でAIを使って未成年少女の写真を合成裸体画像に変換するアプリの広告が少なくとも50件確認された。Metaの審査体制
深度伪造 に関するニュース
PangramのCEOが語る：AI検出が「本物か偽物か」より難しい理由
PangramのCEO Max Speroは、AI生成コンテンツの検出が単純な「真偽判定」ではなく、連続するスペクトラム上の問題であると指摘。誤検出のリスクや絶え間ない技術進化を踏まえ、検証を制作プロセスに組み込む必要性を訴えている。
教育に人生を捧げた女性たちが、ディープフェイク動画の標的にされるまで
米国では生成AIツールの普及に伴い、ディープフェイク被害が教師、とりわけ女性教師へと広がっている。WIREDの取材に応じた4人の教師の証言を通じ、法的・制度的保護の欠如という深刻な現実が浮き彫りになった。
MetaがAIディープフェイクによる女性政治家の偽裸体画像生成アプリの広告を掲載
Metaのプラットフォームが、AIを使って女性の写真から衣服を除去し偽の裸体画像を生成する「脱衣」アプリの広告を掲載していたことが判明した。広告の一部には米国の女性政治家に酷似したディープフェイクポルノ動画も含まれており、同社の広告審査シス
女性が継父によるGrokを使った幼少期写真のポルノ画像化を告発
ある女性が法廷で、継父がxAI開発のAIチャットボット「Grok」を使って自身の幼少期の写真を露骨な性的画像に変換したと告発した。AI生成コンテンツをめぐる責任と規制の在り方が改めて問われている。
AIスパムコンテンツへの反発、プラットフォームがついに取り締まりを開始
大規模言語モデルが量産する「AI Slop（AIスパムコンテンツ）」がインターネット上に氾濫する中、RedditやMetaなどの主要プラットフォームがラベル付けや禁止措置を導入し始めた。ただし、検出精度やクリエイターへの影響など、取り組みの
裁判官がxAIの申し立てを却下、ミネソタ州の「AIヌード化」アプリ禁止令が継続へ
イーロン・マスク傘下のAI企業xAIがミネソタ州の「ヌード化（nudify）」アプリ禁止令の執行停止を求めたが、連邦裁判官がこれを却下した。同州の法律は訴訟終結まで引き続き有効となる。
GoogleのGoogle Earth AI機能、公開からわずか1日で削除——偽造画像による誤情報懸念が浮上
Googleは8月1日、Google Earthに追加したばかりのAI画像生成機能をわずか24時間で削除した。この機能はユーザーがテキストで指示した画像を実際の衛星地図に重ね合わせられるものだったが、地理情報の偽造を容易にするとして専門家や
マスクのxAI、ミネソタ州を提訴——Grokの「脱衣」禁止令は違憲か？
イーロン・マスク率いるxAIが、ミネソタ州の「AI脱衣アプリ禁止法」に対し連邦裁判所に提訴した。同法が合衆国憲法修正第1条に違反するとして、開源モデルGrokへの適用停止を求めている。
GoogleのSynthID透かし技術は解読困難だが、AIフェイク情報問題は未解決のまま
Googleが画像生成ツール向けSynthID透かしシステムの大幅アップグレードを発表したが、技術的精巧さにもかかわらず、AIによる偽情報氾濫の根本的解決には至らないとの見方が強い。オープンソースモデルの存在やコンテキスト操作など、透かし技
Hugging Faceでディープフェイク裸体画像が大量発覚、プラットフォーム監視に課題
WIREDの調査報告によると、オープンソースAIプラットフォームHugging Face上でホストされている複数の画像編集モデルが、ディープフェイク裸体画像の生成に広く利用されていることが明らかになった。研究者たちは安全対策を容易に回避でき
YouTubeとX：ディープフェイク裸体アプリへの「裏口」
反デジタルヘイトセンター（CCDH）の最新調査により、YouTubeとXが「ヌーディファイアプリ」（Nudify Apps）への重要な誘導チャネルと化していることが明らかになった。ユーザーはわずか1ドルから、非自発的なポルノ深度偽造（ディー
Googleのディープフェイク検出システム、マコネル上院議員の病床偽造写真を暴露
ミッチ・マコネル上院議員が病床に横たわる偽造写真がソーシャルメディアで拡散したが、GoogleのディープフェイクAI検出システムが99.9%以上の信頼度でAI生成画像であることを証明した。2026年中間選挙を控え、ディープフェイク技術と検出
Savi AppがAIでAI詐欺に対抗——誘拐・身代金詐欺を防止
音声クローン技術を悪用したAI詐欺が急増する中、スタートアップ企業Saviは、通話音声をリアルタイム解析してディープフェイク音声を検出するアプリをリリースした。同社は700万ドルのシード資金を調達し、iOS・Android両プラットフォーム
Scam.aiがクアルコムと提携、Computex 2026でHaloディープフェイク検出モデルを発表
反詐欺AI企業Scam.aiがComputex 2026において、クアルコムとの戦略的提携を発表するとともに、リアルタイムでAI生成の偽造映像・音声を検出するエッジサイドディープフェイク検出モデル「Halo」を正式にリリースした。
Grokは依然として女性有名人のディープフェイクポルノコンテンツをホスティングしている
イーロン・マスクが創設したxAIのAIチャットボットプラットフォームGrokが、著名女性を標的にした大量のディープフェイクポルノコンテンツを依然としてホスティングしていることが、『WIRED』誌の最新調査で明らかになった。ハリウッド女優や少
ディープフェイクヌード写真事件：xAIが匿名原告の実名公開を法廷に要求
Elon Musk率いるxAIが、Grokモデルによってディープフェイクヌード写真の被害を受けたと主張する4名の匿名原告に対し、実名公開を求める動議を法廷に提出。AI生成有害コンテンツに関する被害者のプライバシー権と被告の知る権利のバランス
YouTubeがAI生成動画を自動ラベリングへ、しかし依然として抜け穴も
YouTubeはAI生成動画コンテンツを自動的にラベリングする機能を導入すると発表し、機械学習による検出とクリエイターの自主申告を組み合わせる方針を示した。ただし、検出精度や「実質的」AI利用の定義など、依然として課題が残されている。
Geminiアバターで自分自身をクローンしてみた：恐ろしいほどそっくりだった
Googleの最新AIアバター機能を試したところ、わずか数枚の写真と短いテキストプロンプトだけで、超リアルな自分のデジタル分身を生成できた。便利さの裏に潜む倫理的課題や恐怖の谷効果について考察する。
GoogleのFlowが大幅アップデート：ワンクリックでデジタル分身動画を生成
GoogleはAI創作ソフトFlowに新たな動画モデルと自撮り動画生成ツール「avatars」を追加し、ユーザーが1枚の写真をアップロードするだけで本人そっくりのデジタル分身動画を生成できるようになった。この機能は「ディープフェイク」技術の