AI生成の児童性的虐待素材を制作——ニュージャージー州副検事総長が逮捕
ニュージャージー州の副検事総長が、AI生成の児童性的虐待素材（AI CSAM）を制作した疑いで逮捕された。事件の発端はDiscordユーザーによる通報であり、法執行機関の担当者が同種の犯罪行為に関与していたという事実は、AI合成コンテンツを
深度伪造 に関するニュース
GoogleがSynthID公式サイトを公開：AIが生成したコンテンツをワンクリックで識別
Googleは、画像・動画・音声がAIによって生成されたかどうかを誰でも確認できる「SynthID」の公式サイトを正式に公開した。企業・パートナー向けだった電子透かし技術が、初めて一般向けツールとして公開された。
祖父がAI偽造音声で騙された——その孫が立ち上げたリアルタイム音声判定会社
AIによる音声クローンで祖父が詐欺被害に遭った経験を持つTarini Padmanabhuniが、スマートフォン上でリアルタイムに合成音声を検出するAI企業DetectifAIをサンフランシスコに設立した。同社はTechCrunch Dis
AIの安全論議がますます混沌とする時代：真偽の見分けがつかない現実
AI生成コンテンツが氾濫する中、AIの安全性を巡る公開議論そのものが情報操作の標的となっており、真偽の判別がかつてないほど困難になっている。TechCrunchの報道を基に、この構造的問題を読み解く。
ニューヨーク、著名人のディープフェイクサイト12件を摘発
マンハッタン地区検察官事務所が、著名人や一般市民を標的にしたディープフェイクポルノサイト12件を一斉摘発し、被害者は約1,200人に上る。同種の事案としては史上最大規模の法執行行動となった。
欧州の女性政治家100人以上がディープフェイクポルノの標的に——被害者のほぼ全員が女性
欧州22カ国の政治家100人以上が、AIを使ったポルノ・ディープフェイクサイトに無断で晒されていることが判明した。被害者のほぼ全員が女性であり、民主主義における女性の政治参加に深刻な萎縮効果をもたらしている。
MetaがAI脱衣広告を放置か――未成年少女の写真が標的に
非営利団体「American Justice for Kids」の調査により、MetaのFacebook・Instagram上でAIを使って未成年少女の写真を合成裸体画像に変換するアプリの広告が少なくとも50件確認された。Metaの審査体制
PangramのCEOが語る：AI検出が「本物か偽物か」より難しい理由
PangramのCEO Max Speroは、AI生成コンテンツの検出が単純な「真偽判定」ではなく、連続するスペクトラム上の問題であると指摘。誤検出のリスクや絶え間ない技術進化を踏まえ、検証を制作プロセスに組み込む必要性を訴えている。
教育に人生を捧げた女性たちが、ディープフェイク動画の標的にされるまで
米国では生成AIツールの普及に伴い、ディープフェイク被害が教師、とりわけ女性教師へと広がっている。WIREDの取材に応じた4人の教師の証言を通じ、法的・制度的保護の欠如という深刻な現実が浮き彫りになった。
MetaがAIディープフェイクによる女性政治家の偽裸体画像生成アプリの広告を掲載
Metaのプラットフォームが、AIを使って女性の写真から衣服を除去し偽の裸体画像を生成する「脱衣」アプリの広告を掲載していたことが判明した。広告の一部には米国の女性政治家に酷似したディープフェイクポルノ動画も含まれており、同社の広告審査シス
女性が継父によるGrokを使った幼少期写真のポルノ画像化を告発
ある女性が法廷で、継父がxAI開発のAIチャットボット「Grok」を使って自身の幼少期の写真を露骨な性的画像に変換したと告発した。AI生成コンテンツをめぐる責任と規制の在り方が改めて問われている。
AIスパムコンテンツへの反発、プラットフォームがついに取り締まりを開始
大規模言語モデルが量産する「AI Slop（AIスパムコンテンツ）」がインターネット上に氾濫する中、RedditやMetaなどの主要プラットフォームがラベル付けや禁止措置を導入し始めた。ただし、検出精度やクリエイターへの影響など、取り組みの
裁判官がxAIの申し立てを却下、ミネソタ州の「AIヌード化」アプリ禁止令が継続へ
イーロン・マスク傘下のAI企業xAIがミネソタ州の「ヌード化（nudify）」アプリ禁止令の執行停止を求めたが、連邦裁判官がこれを却下した。同州の法律は訴訟終結まで引き続き有効となる。
GoogleのGoogle Earth AI機能、公開からわずか1日で削除——偽造画像による誤情報懸念が浮上
Googleは8月1日、Google Earthに追加したばかりのAI画像生成機能をわずか24時間で削除した。この機能はユーザーがテキストで指示した画像を実際の衛星地図に重ね合わせられるものだったが、地理情報の偽造を容易にするとして専門家や
マスクのxAI、ミネソタ州を提訴——Grokの「脱衣」禁止令は違憲か？
イーロン・マスク率いるxAIが、ミネソタ州の「AI脱衣アプリ禁止法」に対し連邦裁判所に提訴した。同法が合衆国憲法修正第1条に違反するとして、開源モデルGrokへの適用停止を求めている。
GoogleのSynthID透かし技術は解読困難だが、AIフェイク情報問題は未解決のまま
Googleが画像生成ツール向けSynthID透かしシステムの大幅アップグレードを発表したが、技術的精巧さにもかかわらず、AIによる偽情報氾濫の根本的解決には至らないとの見方が強い。オープンソースモデルの存在やコンテキスト操作など、透かし技
Hugging Faceでディープフェイク裸体画像が大量発覚、プラットフォーム監視に課題
WIREDの調査報告によると、オープンソースAIプラットフォームHugging Face上でホストされている複数の画像編集モデルが、ディープフェイク裸体画像の生成に広く利用されていることが明らかになった。研究者たちは安全対策を容易に回避でき
YouTubeとX：ディープフェイク裸体アプリへの「裏口」
反デジタルヘイトセンター（CCDH）の最新調査により、YouTubeとXが「ヌーディファイアプリ」（Nudify Apps）への重要な誘導チャネルと化していることが明らかになった。ユーザーはわずか1ドルから、非自発的なポルノ深度偽造（ディー
Googleのディープフェイク検出システム、マコネル上院議員の病床偽造写真を暴露
ミッチ・マコネル上院議員が病床に横たわる偽造写真がソーシャルメディアで拡散したが、GoogleのディープフェイクAI検出システムが99.9%以上の信頼度でAI生成画像であることを証明した。2026年中間選挙を控え、ディープフェイク技術と検出
Savi AppがAIでAI詐欺に対抗——誘拐・身代金詐欺を防止
音声クローン技術を悪用したAI詐欺が急増する中、スタートアップ企業Saviは、通話音声をリアルタイム解析してディープフェイク音声を検出するアプリをリリースした。同社は700万ドルのシード資金を調達し、iOS・Android両プラットフォーム