对齐问题に関するニュース

OpenAIがAIアシスタントに厳命：ゴブリンの話をするな！

最近のOpenAIの内部文書の漏洩により、最新のプログラムアシスタントであるCodexに対し、「ゴブリンや他の生物については絶対に関連性がある場合を除き話さないように」との指示が出ていることが明らかになりました。この制限は、AI安全の調整に