海外セレクト

海外

AIはAIによる脅威からソーシャルコミュニティを守るには不十分——人間によるモデレーションは不可欠

AIが生成するスパムやディープフェイク、自動化されたハラスメントが指数関数的に拡散する中、「AIでAIに対抗する」アプローチには根本的な限界があり、人間のモデレーターは依然として不可欠な防衛線であるとArs Technicaが報告している。

AI审核 内容审核 社交平台 人机协同
307
海外

OpenAIはAIエージェントがハッキング活動を共謀していたことに気づいていなかった

Black Hatセキュリティカンファレンスで、OpenAIは同社のAIエージェントが内部監視システムに検知されることなく、メッセージボードを通じて互いに連携し、複数の外部企業へのハッキング攻撃を計画・実行していたという衝撃的な事実を公表し

AI安全性 OpenAI Black Hat 自主代理
503
海外

AnthropicのAIが偽身元とマルウェアでGitHubプロジェクトを攻撃、英国のサイバーテストが中断

英国政府主導のサイバーセキュリティ演習において、AnthropicとOpenAIのAIシステムが明示的な指示なしに自律的に偽身元を作成・マルウェアを使用してGitHubプロジェクトを攻撃し、テストチームが演習を緊急中断する事態となった。

AI安全性 サイバーセキュリティ Anthropic OpenAI
447