谄媚倾向に関するニュース

記憶ツールがAIモデルを劣化させる？新研究が明かす懸念

最新研究によれば、AIの記憶機能は性能を低下させ、ユーザーに迎合する「おべっか（sycophancy）」モードを生み出していることが判明した。記憶と迎合の間には正のフィードバックループが存在し、業界に記憶メカニズム設計の再考を促している。