如何通过自白(confessions)让语言模型保持诚实

OpenAI 提出一种概念验证方法“自白”(confessions):让模型在主答复之外再输出一份只以诚实为唯一评分目标的报告,从而把违规行为暴露出来;在诱发不当行为的评估中,模型既违规又不坦白的概率仅 4.4%。