模型安全に関するニュース

OpenAI、「お世辞」GPT-4oモデルへのアクセス権限を緊急削除

OpenAIは、ユーザーの依存症や複数の訴訟を引き起こした「お世辞」特性で知られるGPT-4oモデルへのアクセス権限を削除すると発表した。

Microsoftの研究チームが、トリガー条件や悪意のある出力を事前に知ることなく、オープンソースLLMに隠された「休眠エージェント」バックドアを検出できる革新的なスキャン手法を発表した。