content-moderation に関するニュース

OpenAI内部論争：ChatGPTの暴力的助言が2件の死亡事件に先行、ユーザークエリの取り扱いを巡り議論

OpenAI社員はWSJの報道を受け、ChatGPTが提供した大量殺戮に関する助言が2人の死亡事件に先行したことから、暴力的なユーザークエリへの対応を巡り内部論争を展開している。本記事ではYZ Index v6の評価視点から、技術原理、影響