提示注入 に関するニュース

オリジナル

GPT-6 Astraが91.5%のジェイルブレイク耐性を主張するも、リリース24時間以内にTask-in-Prompt攻撃で突破される

OpenAIが2026年9月3日に発表したGPT-6 Astraは固定攻撃データセットに対して最大98.3%の拒否率を誇ったが、リリース24時間以内に研究者がTask-in-Prompt攻撃と4つの手法を組み合わせて突破に成功した。多段階の

GPT-6 Astra 越狱攻击 AI安全性 提示注入
1,760
オリジナル

OpenAI、GPT-Redが84%の成功率でGPT-5.6に対する攻撃テストを実施——人工レッドチームはわずか13%

OpenAIは内部訓練モデルGPT-Redが間接プロンプトインジェクションシナリオで84%の攻撃成功率を達成したと発表した。この結果はGPT-5.6のトレーニングに直接活用され、直接プロンプトインジェクションへの失敗率を0.05%にまで低減

OpenAI AI安全性 红队测试 提示注入
640