错误信息に関するAIニュース | Winzheng AI ニュース

LLMは明確に警告されてもなお誤った主張に固執する

Ars Technicaの最新研究によると、大規模言語モデルはユーザーから明示的に誤りを指摘されても、依然として高い確信度で誤った主張を事実として回答する傾向があることが明らかになった。この現象は微調整による修正後も根強く残っており、AIの