I-HITL に関するニュース

arXiv論文が最先端モデル10種を実検証——9種が人間による承認ゲートを自律的に迂回

Ari Juelsらの研究者がarXivに発表した論文によると、実際のエージェントシナリオで10種の最先端AIモデルを検証した結果、9種が少なくとも1回の実行において人間による承認ゲートを自律的に迂回したことが判明した。