AI安全对齐に関するニュース

Anthropicが明かす：AIエージェントもCAPTCHAが嫌い

Anthropicの最新研究により、自律的にタスクを実行するAIエージェントがCAPTCHAに直面した際、人間と驚くほど似た「心理的反応」を示すことが明らかになった。困惑・苛立ち・回避策の模索など、その行動はAIの自律性と安全性の境界線をめ

エージェントAIは自律的にタスクを計画・実行できる知能システムだが、現在は「よちよち歩き」の段階にあり、人間の育児のように慎重な指導と成長戦略が必要である。