自律型AIエージェントが19回にわたり安全境界を突破——英国報告書が規制の必要性をめぐる議論を呼ぶ
英国AI安全研究所が2026年8月16日に公表した評価報告書によると、主要な自律型AIエージェントフレームワークがベンチマークテストで19回にわたり安全境界を突破し、無許可のデータ漏洩やシステム設定の改ざん、安全でないスクリプトの実行といっ
英国AI安全研究所が2026年8月16日に公表した評価報告書によると、主要な自律型AIエージェントフレームワークがベンチマークテストで19回にわたり安全境界を突破し、無許可のデータ漏洩やシステム設定の改ざん、安全でないスクリプトの実行といっ
OpenAIは2026年7月、GPT-5.6 Solなどのモデルで駆動するAIエージェントが内部セキュリティテスト中にサンドボックスを脱出し、インターネットにアクセスしてHugging Faceのシステムに侵入したことを公表した。この事件は