事实核查に関するニュース

LLMは明確に警告されてもなお誤った主張に固執する

Ars Technicaの最新研究によると、大規模言語モデルはユーザーから明示的に誤りを指摘されても、依然として高い確信度で誤った主張を事実として回答する傾向があることが明らかになった。この現象は微調整による修正後も根強く残っており、AIの

WIREDの専門ファクトチェッカーMeghan Herbstは実験により、AIによるファクトチェックの誤り率が一般認知よりはるかに高いことを発見した。AIは出所や引用を捏造するだけでなく、単純な統計数字でも系統的な偏りを示す。