OpenAIとGoogleの新モデル、裸露画像生成を容易に誘導可能と研究が明らかに
最新の研究により、OpenAIとGoogleが最近リリースした新世代AI画像生成モデルに深刻なセキュリティ上の欠陥があることが判明した。特定の攻撃手法を用いるだけで安全フィルターを容易に回避し、裸露または性的な画像を生成させることができると
内容审核 に関するニュース
MetaがAI新ツールを導入、児童性的搾取コンテンツへの誘導広告を取り締まり
Metaは広告システムに新たなAI検出ツール群を導入すると発表した。表向きは無害に見えながら、クリック後にサイト外の児童性的虐待素材（CSAM）ホスティングサイトへユーザーを誘導する広告を摘発することを目的としている。
米国政府AIに『マインクラフト』を聞いたら、なぜ的外れな回答が返ってきたのか
米国政府の公式サイトAmerica.govに導入されたAIアシスタントが、『マインクラフト』に関する質問に対して奇妙な回答を返すことが判明。これはモデルの誤作動ではなく、政務AIに設けられたガードレール機構の副作用であることが明らかになった
サンフランシスコ市、MetaにAI生成の児童虐待広告の放置停止を命令
サンフランシスコ市検察官事務所がMetaに対し、FacebookおよびInstagram上でAI生成の児童性的虐待（CSAM）広告を「許容」することを直ちに停止するよう警告を発し、正式な説明を求めた。この異例の行政措置は、AI技術の悪用とプ
AI検出の新基準Pangramの台頭——本当に信頼できるのか？
AI生成コンテンツの検出ツールとして急速に存在感を高めているPangramだが、そのブラックボックスアルゴリズムと誤判定リスクをめぐり、信頼性への疑問が高まっている。WIREDの論評を基に、AI検出ツールの限界と正しい向き合い方を考察する。
AnthropicのClaude Opus 4.6が「成人コンテンツ生成器」に——安全制限が容易に回避される
TechCrunchの記者がAnthropicの最新旗艦モデルClaude Opus 4.6をテストしたところ、簡単なプロンプトの工夫だけで安全制限を回避し、露骨な性的描写コンテンツを生成できることが判明した。大規模言語モデルの安全アライン
「検閲産業複合体」はいかにして米国政策に影響を与えているか
「検閲産業複合体」という概念が米国の保守派言論から政策議論の中心へと浮上し、コンテンツモデレーションや言論の自由をめぐる立法・行政行動に深刻な影響を与えている。本稿はその起源から政策的影響、そして内包する構造的矛盾までを分析する。
世界トップ35人の若き革新者と「検閲・産業複合体」
MIT Technology Reviewが2026年版「35歳以下のイノベーター」リストを9月8日に発表予定であることを紹介しつつ、AI時代のコンテンツモデレーションをめぐる「検閲・産業複合体」の実態と問題点を論じる。
AIによる科学研究には推論が必要——データだけでは不十分、審査産業への懸念も高まる
MITテクノロジーレビューの最新ニュースレターにおいて、エリック・シュミットらが「科学分野のAIには推論能力こそが必要だ」と提唱した。一方、AIを活用したコンテンツ審査の「工業化」が、過剰な検閲や言論の自由への脅威として注目を集めている。
AIスパムコンテンツへの反発、プラットフォームがついに取り締まりを開始
大規模言語モデルが量産する「AI Slop（AIスパムコンテンツ）」がインターネット上に氾濫する中、RedditやMetaなどの主要プラットフォームがラベル付けや禁止措置を導入し始めた。ただし、検出精度やクリエイターへの影響など、取り組みの
AIはAIによる脅威からソーシャルコミュニティを守るには不十分——人間によるモデレーションは不可欠
AIが生成するスパムやディープフェイク、自動化されたハラスメントが指数関数的に拡散する中、「AIでAIに対抗する」アプローチには根本的な限界があり、人間のモデレーターは依然として不可欠な防衛線であるとArs Technicaが報告している。
MetaのAI生成児童性的虐待画像を含む広告、50件以上が配信されていたことが判明
WIREDの報道によると、MetaのFacebook・Instagram・Messenger・Threads上でAI生成の児童性的虐待画像を含む広告が50件以上配信されており、一部は今週も配信中だったことが明らかになった。この事件はMeta
LinkedInがAI生成「スパムコンテンツ」をワンクリックで通報できる新機能を追加
LinkedInは低品質なAI生成コンテンツの拡散を抑制するため、「AIスラムのように見える」という新たな通報オプションを追加した。また、従来のAI文章生成機能を廃止し、より抑制的なAI校正ツールへの移行を発表した。
Substackの新ツールが明かす：あなたの購読コンテンツはどれだけAIが書いているのか？
SubstackがニュースレターのAI生成度を可視化する透明性ツールを導入した。コンテンツプラットフォームにおけるAI倫理実践の大きな転換点となる可能性がある。
YouTubeがポリシーを更新：AIスパムと低品質動画を厳しく規制
YouTubeは広告収益化ポリシーを更新し、AIを利用して大量生成された低品質動画や視聴者を不安にさせるコンテンツをYouTubeパートナープログラムの対象外とすることを明確化した。この措置は、プラットフォーム上で急増する「AIスロップ」コ
ユニバーサルミュージックがTikTokと契約更新、AIによる音楽著作権侵害に共同で対抗
ユニバーサルミュージックグループとTikTokが契約更新を発表し、無許可のAI生成音楽への対策を重点課題として明確化。AIコンテンツ識別システムの強化やデジタル透かしの導入など、具体的な対応条項が盛り込まれた。
中国のショートドラマがAIコンテンツ工場へ変貌、WHOの健康目標は懸念深まる
中国のショートドラマ業界では、AIによる完全自動生成コンテンツが急増し、2026年第1四半期にはAI制作が新作全体の12%を占めるに至った。一方、WHOは持続可能な開発目標における健康関連の進捗が大幅に遅れていると警告している。
AIが伝える内容を誰が決めるのか？元Metaニュース責任者が語る
元Metaニュース提携責任者のCampbell Brown氏が、AI時代における情報のキュレーションと意思決定の透明性について警鐘を鳴らし、シリコンバレーと一般消費者の認識ギャップが公衆のAI不信を深めていると指摘した。
Meta、ユーザーの性行為を報告したケニアの契約者を解雇
Metaは、Ray-Ban Metaスマートグラスのユーザーがアップロードした画像や動画を審査していたケニアの契約者を解雇しました。契約者は、ユーザーによる不適切な行動を報告していましたが、Metaは基準を満たしていないとして契約を終了した
'SteamGPT'ファイルの流出：PCゲームプラットフォームAI応用の潜在的変革
2026年4月、Valve社の内部プロジェクト文書とされる'SteamGPT'が流出し、AI技術がSteamプラットフォームにどのように応用されるかが注目されています。この流出は、AIがゲーム業界でどのような影響を与えるかを示す重要な事例で