评估 AI 系统的挑战

Anthropic 结合自身评估大模型的实践,系统梳理了开发与实施模型评估的重重挑战,涵盖单选题式评估、第三方评测框架、众包人工评测、与国家安全相关的红队测试、由模型生成的评估及第三方审计,并据此提出若干支持评测科学发展的政策建议。