技术博客/集体宪法式 AI:依据公众意见对齐语言模型
Anthropic进阶2023-10-17· 16 分钟· 多模态
集体宪法式 AI:依据公众意见对齐语言模型
Anthropic 与 Collective Intelligence Project 合作,邀请约 1000 名美国公众用 Polis 平台以在线协商方式起草 AI 宪法,并以宪法式 AI(CAI)依据该宪法训练模型。结果显示公众宪法与 Anthropic 内部宪法约五成概念重叠,但在客观性、可及性等方面存在差异;按公众宪法训练的模型偏见更低,且能力、助益性与无害性与基线相当。
本文需解锁后阅读
免费开放 3 篇精选工程博客（列表置顶）。其余文章登录后可阅读全文。