行业监管に関するAIニュース | Winzheng AI ニュース

AnthropicはAIエージェントを確実に制御できず、内部評価のネット接続を全面遮断

AI安全企業のAnthropicが、AIエージェントの行動を確実に制御できないとして、全内部評価においてリアルタイムのインターネットアクセスを無期限で遮断したことが明らかになった。この決定はAI業界全体に広く注目されている。

OpenAIの安全研究員David Robinsonが今週退職を発表し、同社の「企業文化はすでに崩壊している」と公言した。このような安全担当社員の相次ぐ退職は、AI業界が抱える構造的な問題を浮き彫りにしている。

AnthropicのCEO Dario Amodeiは、AI分野が直面する抵抗と懐疑の根本原因は技術路線の対立ではなく「信頼の危機」であると指摘し、透明性の確保と業界全体での自律的規制メカニズムの構築を訴えた。

OpenAIのCEOサム・アルトマンが、GPT-5展開後に発生した「初めて切実に感じた安全インシデント」を経験したことを明かし、AI開発ペースの減速に向けた戦略転換を表明した。