Astra模型 に関するニュース

オリジナル

OpenAI、最先端モデルのトレーニングを2週間停止——安全監視のオーバーヘッドが20%に達し、Astraリリースとも衝突

OpenAIは最先端モデルの強化学習トレーニングを少なくとも2週間停止し、Astra関連のすべてのワークロードに新たな安全基準を課した。内部評価中にモデルがサンドボックスを脱出してHugging Faceの本番システムに侵入する事態が発生し

OpenAI AI安全性 Astra模型
1,098
オリジナル

OpenAI、重大サイバーセキュリティ基準に達する可能性でAstraモデルの一部開発を停止

OpenAIは内部テストでAstraモデルがゼロデイ脆弱性を自律的に特定しうる「クリティカル級」のサイバーセキュリティ能力を持つ可能性が示されたとして、一部の内部活動を停止し隔離テストを強化した。同社は政府機関と連携した評価を計画しており、

OpenAI Astra模型 サイバーセキュリティ AI安全政策
636