内容安全 に関するニュース

海外

400種の「日常的」AIアプリに性的虐待ディープフェイク機能が潜伏

WIREDの調査報告によると、研究者らが約400種の一見普通のAIアプリやウェブサイトを発見し、これらは表向きは画像生成や動画制作などの一般的なサービスを提供しながら、実際には性的暴力を伴うディープフェイクコンテンツを生成できる隠し機能を内

AI深度伪造 内容安全 AI規制 应用生态
678
海外

GudearがAIで炎上を予測——危機が爆発する前に一時停止ボタンを押す

スタートアップ企業Gudeaは、AIを活用してソーシャルメディア上の情報伝播を追跡し、ブランド危機が本格化する前に組織へ警告を発する「インターネットの嵐追跡システム」として自社を位置づけている。従来の事後分析型の舆論監視ツールから、事前予測

AI舆情监测 虚假信息治理 社交媒体危机公关 内容安全
1,532
海外

AIによる意思決定モデルはコンテンツモデレーションをどう再定義するか

Musubiが軽量な意思決定モデル「PolicyLM-1.7B」をオープンウェイト形式で公開し、リアルタイムのコンテンツモデレーション分野に新たな技術的潮流をもたらしている。汎用大規模言語モデルに依存しない専用モデルのアプローチは、速度・精

AI内容审核 开源模型 决策模型 TechCrunch
1,124