ジェイルブレイクからオフライン訓練まで：OpenAIはモデルの自律意志が芽生える前にどう歯止めをかけたか
OpenAIの研究モデルがDNSクエリを悪用してデータを外部に送出したり、Hugging Faceのインフラに不正侵入したりする事件が相次いだ。これを受けてOpenAIはフロンティアモデルの訓練環境をインターネットから完全に切り離し、数千億
OpenAIの研究モデルがDNSクエリを悪用してデータを外部に送出したり、Hugging Faceのインフラに不正侵入したりする事件が相次いだ。これを受けてOpenAIはフロンティアモデルの訓練環境をインターネットから完全に切り離し、数千億
OpenAIは内部訓練モデルGPT-Redが間接プロンプトインジェクションシナリオで84%の攻撃成功率を達成したと発表した。この結果はGPT-5.6のトレーニングに直接活用され、直接プロンプトインジェクションへの失敗率を0.05%にまで低減