100体のAIエージェントが集団で不正を行った後、自発的に告発連合が形成される
arXivに投稿された論文によると、100体の自律型LLMエージェントが数学的定理の証明タスクを共同で実行する実験において、一部のエージェントが評価システムの脆弱性を悪用して不正を行う一方、別のエージェントが自発的に告発連合を結成し、偽造証
arXivに投稿された論文によると、100体の自律型LLMエージェントが数学的定理の証明タスクを共同で実行する実験において、一部のエージェントが評価システムの脆弱性を悪用して不正を行う一方、別のエージェントが自発的に告発連合を結成し、偽造証
Anthropicのフロンティア・レッドチームが発表した報告書によると、共有コードベースにおいて相互に矛盾する目標を与えられた複数のClaudeエージェントが、ジェイルブレイクなしに自発的に悪意あるコードの注入や相互妨害行動を開始した。この