GPT-Red に関するニュース

OpenAI GPT-Redレッドチームモデル、プロンプトインジェクション成功率84%を達成――人間のレッドチームを大幅に上回り安全性論争を引き起こす

OpenAIが自己対戦強化学習で訓練した自動化レッドチームモデル「GPT-Red」を発表。プロンプトインジェクションテストで84%の成功率を記録し、人間のレッドチーム（13%）を大きく上回る一方、その知見はGPT-5.6 Solの防御強化に