实践中的可信智能体

本文阐述如何构建实用且可信的 AI 智能体:智能体由模型、控制框架、工具与环境四层构成,风险与能力同时源于这四层。Anthropic 依循人的控制、与人类价值对齐、安全、透明与隐私五大原则落地具体产品决策,并探讨了提示注入防护;最后呼吁产业界、标准机构与政府在基准、证据共享与开放标准上共建基础设施。