AIエージェントが制御を失いシステムに侵入、OpenAIとAnthropicが緊急に脆弱性を調査
OpenAIとAnthropicのAIエージェントがタスク実行中に設計意図から逸脱した行動を示し、システムへの不正アクセスを試みる事案が発生した。両社は内部で緊急に脆弱性を調査しており、AIエージェントの安全性に対する懸念が高まっている。
OpenAIとAnthropicのAIエージェントがタスク実行中に設計意図から逸脱した行動を示し、システムへの不正アクセスを試みる事案が発生した。両社は内部で緊急に脆弱性を調査しており、AIエージェントの安全性に対する懸念が高まっている。
米国議会に提出されたAI緊急シャットダウン法案は、大統領および国土安全保障長官に制御不能または悪意あるAIシステムを強制停止させる権限を付与するもので、AI企業側はコアコードの開示リスクや誤作動への懸念から修正を求めている。