宪法式分类器：抵御通用越狱

Anthropic 安全防护研究团队提出宪法式分类器(Constitutional Classifiers)方法,用基于合成数据的输入/输出分类器过滤越狱攻击。原型经数千小时人类红队测试仍未被发现通用越狱;改进版在合成评估中保持同等稳健性,拒答率仅上升 0.38%、算力成本中等增加。文章同时报告了公开实时演示的完整结果、参与者的成功攻击策略与奖金授予情况。