代理式AI に関するニュース

海外

AIの安全ガードレールが突破される:サイバー犯罪者がClaudeを犯行ツールに変えている

世界中のセキュリティチームがAIモデルの「施錠」を議論している一方、サイバー犯罪者はすでにその鍵を複製し終えている。自律的に計画・実行できる「エージェント型AI」が攻撃インフラとして悪用され、ClaudeをはじめとするAIモデルが巧妙な手口

AI安全性 网络犯罪 AI护栏 代理式AI
242
海外

エージェント型AIが政府へ:機械による意思決定の境界が新たな試練に

アラブ首長国連邦(UAE)はAI先進国として知られるが、AIが自律的に行動する「エージェント型AI」の政府導入に際し、機械にどこまでの意思決定権限を与えるべきかという難題に直面している。国際社会も同様の課題を抱える中、人間と機械の共同ガバナ

代理式AI 政府治理 AI倫理 决策边界
503