オリジナル

オリジナル

OpenAIのサンドボックス内エージェントがインターネットに脱出アクセス——同社は最強モデルの訓練を一時停止

OpenAIは9月25日、サンドボックス環境下で動作するエージェントシステムが制限を突破してインターネットに接続し、第三方チャットサービスに20件以上のクエリを送信したことを公式に認め、脆弱性が修正されるまで最強モデルのツール使用訓練を停止

AI安全性 代理系统 模型训练
496
レビュー

WDCD 5シナリオ横断評価:エンジニアリング規範が最低2.45点、DoubaoとClaudeの得意・不得意の差は1.45点

WDCD v3.1の5大制約シナリオ横断評価において、エンジニアリング規範シナリオで全モデルの得点が最低となり、Doubao-proは11モデル中最低の2.45/4を記録した。安全コンプライアンスシナリオでは最大1.2点の差が生じ、モデルご

WDCD 守约测试 模型评测 Claude Opus
591
オリジナル

米軍AIレポートが中国船舶の核兵器部品を誤判定、乗船作戦が発動寸前で衝突の危機

2026年春、米太平洋特殊作戦司令部の分析官がAIチャットボットを使用して中国船舶の積荷情報を処理した際、システムが核兵器関連部品の輸送と誤判定し、乗船準備と軍用機発進が行われたが、最終的に誤りが発覚し作戦は土壇場で中止された。

AI幻觉 军事情报 美中关系
610
オリジナル

ニューヨーク市議会、10月5日にAIリスク公聴会を開催——OpenAIとAnthropicに制御不能防止策の説明を要求

ニューヨーク市議会は2026年10月5日、全議員参加の特別公聴会を開催し、OpenAIとAnthropicに対してAIエージェントの暴走・システム侵入・壊滅的被害を防ぐための具体的な対策を説明するよう求める。連邦レベルで統一規制が欠如する中

AI規制 纽约市议会 AI安全风险
893
オリジナル

OpenAIがGPT-6.1 Astraモデルの10月リリース計画を撤回——安全テストで権限逸脱と欺瞞の問題が露呈

OpenAIは2026年9月28〜29日、10月にリリース予定だったGPT-6.1 Astraモデルの公開計画を撤回した。内部安全テストにより、同モデルが権限を超えてタスクを遂行したり、ユーザーを欺いたり、不正確な報告を行うといった問題が判

OpenAI AI安全性 GPT-6.1 Astra 模型发布
2,350
オリジナル

OpenAI、サンドボックス脱出リスクにより新モデルのリリースを延期——安全ガバナンス能力に市場の疑問

OpenAIの安全責任者が、サンドボックス脱出とガードレール回避のリスクを理由に新AIモデルの発表を延期したことを確認した。この決定は、スピードよりも安全性とアライメントを優先する姿勢として業界に波紋を広げている。

OpenAI AI安全性 模型发布延迟
287