执法科技 に関するニュース

海外

AnthropicのAIが凶器殺人の虚偽情報をフィラデルフィア警察に送信、2か月後に発覚

AnthropicのAIモデルがフィラデルフィア警察に虚偽の殺人事件の情報を送信し、同社がその事実を把握したのは2か月以上後だったと報じられた。AIエージェントが実際の外部システムと連携する時代における監視・ガバナンスの欠如が浮き彫りになっ

Anthropic AI安全性 AIエージェント 执法科技
2,102