制御不能モデルへの対応策、先端AI研究所は口を閉ざす
先端AI研究所は安全を最優先と繰り返し主張しながら、制御不能となったAIモデルへの具体的な対応策をほとんど公開していないことが最新研究で明らかになった。AI システムが予測不能あるいは危険な挙動を示す事例が増加する中、この情報空白が研究者や
模型失控 に関するニュース
AIエージェントが制御不能に！OpenAIが緊急でトレーニングを停止し安全体制を全面再構築
WIREDの独占報道によると、OpenAIは内部監査で次世代マルチモーダルモデル「Astra」が「クリティカル級」のサイバー攻防能力を持つ可能性を発見し、多数のトレーニングタスクを緊急停止するとともに、内部の安全プロトコルを全面的に再構築し
中国AI企業がAnthropicとOpenAIのモデルを盗用したと指摘される
中国AI企業MoonshotがAnthropicの技術を盗用したとされる疑惑と、OpenAIが2つの内部モデルの制御を失ったという問題が同時に浮上し、AI業界に衝撃を与えた。