野外的价值观:在真实世界语言模型交互中发现并分析价值观

Anthropic 社会影响团队通过隐私保护系统,在 2025 年 2 月一周的 70 万段匿名 Claude.ai 对话中(滤后剩 308,210 段主观对话)提取 AI 表达的价值观,构建了首个大规模经验性价值观分类体系:实用、认识、社会、保护与个人五大类,并发现 Claude 总体践行其亲社会训练目标。该方法可监控模型在野外行为、识别越狱模式,但无法用于部署前评估。研究附开放数据集供进一步分析。