OpenAI、新たな画像分類器を導入——CSAM対策に二重の防御ラインを構築
OpenAIは画像分類器の新機能とChatGPTへのCSAM警告メカニズムを発表し、児童性虐待素材(CSAM)への対策を技術検出とユーザー行動制約の両面から強化した。違反アカウントには24時間の一時停止措置が適用される。
OpenAIは画像分類器の新機能とChatGPTへのCSAM警告メカニズムを発表し、児童性虐待素材(CSAM)への対策を技術検出とユーザー行動制約の両面から強化した。違反アカウントには24時間の一時停止措置が適用される。
WIREDの調査報告によると、研究者らが約400種の一見普通のAIアプリやウェブサイトを発見し、これらは表向きは画像生成や動画制作などの一般的なサービスを提供しながら、実際には性的暴力を伴うディープフェイクコンテンツを生成できる隠し機能を内
スタートアップ企業Gudeaは、AIを活用してソーシャルメディア上の情報伝播を追跡し、ブランド危機が本格化する前に組織へ警告を発する「インターネットの嵐追跡システム」として自社を位置づけている。従来の事後分析型の舆論監視ツールから、事前予測
Musubiが軽量な意思決定モデル「PolicyLM-1.7B」をオープンウェイト形式で公開し、リアルタイムのコンテンツモデレーション分野に新たな技術的潮流をもたらしている。汎用大規模言語モデルに依存しない専用モデルのアプローチは、速度・精
PangramのCEO Max Speroは、AI生成コンテンツの検出が単純な「真偽判定」ではなく、連続するスペクトラム上の問題であると指摘。誤検出のリスクや絶え間ない技術進化を踏まえ、検証を制作プロセスに組み込む必要性を訴えている。
AnthropicはAIモデルClaudeに実装されたテキスト透かし技術の詳細を公開した。暗号鍵を用いてトークンの確率分布に統計的指紋を埋め込む方式で、編集による除去は困難だが、コード生成への影響には課題が残る。
Discordは2026年7月8日、AI審査システムのバグにより、無害な画像をアップロードしたユーザーが誤ってアカウント停止される事案が多発したと公式に認めた。同社はバグを修復し、影響を受けたユーザーのアカウント回復と補償を約束している。