为什么语言模型会产生幻觉

OpenAI 新研究指出，语言模型产生幻觉的根源在于训练与评测体系奖励「猜测」而非「承认不确定」：只按准确率排名的榜单会鼓励模型瞎猜。论文从下一词预测的统计机制解释了幻觉的来源，并主张改造主流评测的计分方式，对错误加重惩罚、对合理的弃答给予部分分数。