已读 0/302
共 302 篇匹配
免费试读3
走进 OpenAI 内部的数据 agent
OpenAI 自研了一款仅内部使用的数据 agent，基于 GPT‑5.2 并叠加表使用、人工标注、Codex 代码富化、机构知识、记忆与运行时上下文六层上下文，用自然语言在几分钟内完成从提问到洞察的分析，并通过 Evals API 持续防护质量。
构建高效的智能体
本文是 Anthropic 关于如何构建高效智能体(agent)的工程指南:先区分工作流(workflows)与智能体(agents),强调应优先寻找最简方案、只在确有需要时增加复杂度。文章详解增强型 LLM、提示链、路由、并行化、编排者-工作者、评估者-优化者等核心构建模式,并总结遵循简洁设计、透明规划步骤与精心打磨智能体-计算机接口(ACI)三项原则。附录涵盖客服与编码智能体在实践中的落地价值,以及为智能体工具做提示工程的建议。
为智能体编写高效工具——借助智能体
当用 LLM 智能体解决真实任务时,可以给它接入成百上千个工具,但如何让这些工具发挥最大效用?本文介绍一套系统化方法:先快速搭建并本地测试工具原型,再生成大量源于真实场景的评测任务、以编程方式运行智能体评测,还可让 Claude Code 分析记录并自动迭代改进工具。文章还提炼了编写高质量工具的五条原则:选对要实现的工具、用命名空间划清边界、返回有意义的上下文、优化工具响应的 token 效率,以及对工具描述与 spec 做提示工程。
Agent 智能体124
为 Codex 构建一个安全、有效的 Windows 沙箱
Codex 工程团队讲述如何在缺乏原生沙箱能力的 Windows 上自建隔离环境：从基于 SID 与写入受限令牌的免提权原型，演进到引入专用沙箱用户、防火墙规则与独立命令运行器的提权版沙箱，并复盘其中的安全与易用性权衡。
通过在发布前模拟部署来预测模型行为
OpenAI 提出 Deployment Simulation(部署模拟):以保护隐私的方式重放真实历史对话的前缀,用候选模型重新生成回复,从而在发布前更准确地估计不良行为的发生率。在多轮 GPT-5 系列 Thinking 模型部署中,该方法的发生率预测中位倍数误差为 1.5 倍,优于困难提示基线,在发布前发现了「计算器滥用」这一新型失对齐行为,并显著降低了模型的评估感知;它还能扩展到带工具调用的智能体场景。
检测并减少 AI 模型中的策略性欺骗行为
我们与 Apollo Research 一起构建了模拟未来场景的评估环境，把「隐蔽行为」作为策略性欺骗（scheming）的代理指标，在多个前沿模型上观测到问题行为，并用审慎对齐（deliberative alignment）训练把隐蔽行为发生率降低约 30 倍。
如何通过自白(confessions)让语言模型保持诚实
OpenAI 提出一种概念验证方法“自白”(confessions):让模型在主答复之外再输出一份只以诚实为唯一评分目标的报告,从而把违规行为暴露出来;在诱发不当行为的评估中,模型既违规又不坦白的概率仅 4.4%。
推出 EVMbench
EVMbench 是 OpenAI 与 Paradigm 合作推出的智能合约安全基准，收录来自 40 次审计的 117 个高严重性漏洞，从 detect（检测）、patch（修补）、exploit（攻击）三种模式评估 AI 智能体能力；GPT‑5.3‑Codex 在 exploit 模式下得分 71.0%，远高于半年前的 GPT‑5 的 33.3%。
推理模型难以控制自己的思维链,而这反而是件好事
OpenAI 发布开源评测套件 CoT-Control,测试了 13 个推理模型后发现:前沿模型几乎无法按要求控制自己的思维链(CoT),可控度最高仅 15.4%,且推理越长、RL 训练越多,可控度越低。这意味着模型也难以刻意混淆思维链来逃避监控,对 AI 安全的 CoT 监控而言是好消息。
在编码评测中把信号与噪声分开
OpenAI 用数据点分析流水线加人工标注对 SWE-Bench Pro 做了一次详细审计：自动化过滤标记出 286 个可疑任务，代理审查认定 200 个（27.4%）有问题，人类工程师则认定 249 个（34.1%），问题集中在过于严苛的测试、描述不充分的提示、覆盖率不足的测试和误导性提示四类，因此估算约 30% 的任务是坏的，并撤回此前推荐采用该基准的建议。
Parameter Golf 教会了我们什么
Parameter Golf 是 OpenAI 举办的开放机器学习挑战赛：参赛者需 16 MB 内、8×H100 上 10 分钟训练，在固定 FineWeb 数据集上最小化留出损失。八周内收到 1,000 多名参与者的 2,000 多份提交，文章总结其中九份代表性方案与十五份非记录赛道佳作，并分享在编码智能体普及时代办赛的经验与争议。
我们如何在六个月内构建出高响应的语音 AI 实时系统
OpenAI 第三代语音系统 GPT-Live 移除了音频链路上的 turn detector，改用可同时听说的全双工语音模型，并通过有状态流式推理、异步委派和 WARP 等协议优化，把媒体启动从六次网络往返压缩到一次，让语音对话真正实时。
GPT‑5.6 如何将前沿智能与前沿效率融为一体
OpenAI 在模型、推理(inference)与智能体框架(agentic harness)三层同时做优化:GPT‑5.6 Sol 自主改写生产 kernel、调优负载均衡与投机解码,使服务端到端成本下降 20%,并配合 Codex 的 Rust 编排层减少上下文膨胀与重复工作。
Jalapeño 首批结果:展现行业领先的 AI 推理速度与效率
OpenAI 公布其首款自研推理芯片 Jalapeño 的测试结果:在 InferenceX 基准上,对 GPT‑OSS 120B、DeepSeek R1 和 Kimi K2.5 1T,Jalapeño 在峰值吞吐下每瓦性能提升 1.5 至 1.9 倍,端到端延迟降低 1.7 至 3.6 倍,同时展示了全栈协同设计与 AI 辅助芯片开发的路径。
自动化研究者能够可靠地缓解对齐失败
在 AI 开始自我构建的时代,自动化对齐研究对安全研究跟上步伐日益重要。Anthropic 让 Claude 自主训练模型,针对衡量 10 类对齐失败的多个公开基准逐一改进——如用 ConfAIde 等衡量的隐私违规。对全部 10 类失败,Claude 都找到了在不削弱能力的前提下改进目标基准的修复方案,最佳方法在留出基准与 Petri 上同样有效,并能在比研究循环中优化的模型大 4.7 倍的模型上保持有效。Claude 表现甚至超过了 28 名人类安全研究者,并成功对齐了生产级模型检查点。
行星预测引擎:借助 Earth AI 实现全球模型自动化
Google 推出行星预测引擎(PPE)——一个能在自然语言查询下自主完成完整地理空间建模工作流的实验性研究能力,从数据发现、特征工程到模型训练与评估,将原本需要数周人工数据工程的全球预测建模缩短到几分钟,在公共卫生、粮食安全、环境风险与经济社会学等预测任务上均取得提升。
AgentHands：为 XR 中空间锚定的智能体对话生成交互式手势
Google 提出 AgentHands，一个由 LLM 驱动的 XR 原型，为对话式智能体赋予与语音同步、富有表现力的手势，以提供空间锚定的引导。用户研究显示，该系统在空间定位、复杂动作理解、安全警示显著性等方面显著优于纯语音基线。
用 Codex 构建自我改进的税务 agent
OpenAI 与 Thrive Holdings 联合为 Crete 旗下 30 多家会计事务所打造了 Tax AI:以「从业者反馈 + 生产环境 trace + Codex 驱动的 eval 迭代循环」三大支柱,让产品把真实使用中的问题自动转成结构化发现、定向 eval 和有边界的工程任务。本税季系统处理了 7000 份纳税申报,六周内字段填写 75% 正确率从 25% 提升到 86%,为从业者节省约三分之一时间。
核心转储流行病学:修复一个存在 18 年的老 bug
OpenAI 的 Rockset 数据服务出现了一批无法解释的 C++ 崩溃。团队放弃逐个深挖单个 core dump 的做法,改为用脚本对全年生产环境核心转储做全量分析,结果发现这其实是两个独立问题:一台 Azure 物理机的静默硬件损坏,以及 GNU libunwind 中一个存在 18 年、只有一条指令宽的竞态条件。
OpenAI 如何在规模化场景下交付低延迟语音 AI
OpenAI 重构了 WebRTC 技术栈：在 Kubernetes 上以「无状态 relay 转发 + 有状态 transceiver 终结」的分离架构替代每会话独占端口，用 ICE ufrag 携带路由信息实现首包确定性转发，配合 Global Relay 就近接入，在不改变客户端标准 WebRTC 行为的前提下把公网 UDP 接口面收敛为少量固定端口。
从模型到智能体:为 Responses API 配备计算机环境
OpenAI 为 Responses API 配齐了 shell 工具、托管容器工作区、受限网络出口、可复用技能(skills)与原生上下文压缩,让模型从只能提示调用进化为能在隔离环境中可靠执行真实任务的智能体。
Harness engineering:在智能体优先的世界中借助 Codex
OpenAI 一个团队用五个月做了场实验:0 行人工手写代码,靠 Codex 从空仓库建起并交付了一个约百万行代码的内部产品,耗时约为手写的 1/10。文章总结工程师角色如何转向设计环境、明确意图与构建反馈回路,以及把仓库知识作为事实来源、用自定义 linter 强制架构不变式、以垃圾回收式流程持续清理技术债等经验。
用 Responses API 中的 WebSocket 加速 agentic 工作流
OpenAI 通过在 Responses API 上引入基于 WebSocket 的持久连接，加上渲染 token 缓存、减少网络跳转和增量式安全检查，把 Codex 这类 agent 循环的端到端耗时降低了 40%，让 GPT‑5.3‑Codex‑Spark 的推理速度从 65 tokens/秒提升到接近 1,000 tokens/秒（峰值 4,000），同时保持开发者熟悉的 response.create API 形态。
解锁 Codex harness:我们如何构建 App Server
支撑 web 应用、CLI、IDE 扩展与 macOS 应用的 Codex 能力来自同一套 Codex harness,而把它们连接起来的关键就是 Codex App Server——一个对客户端友好、双向的 JSON-RPC 协议与长驻进程。文章拆解了 App Server 的架构、Item/Turn/Thread 三大会话原语,以及本地 IDE、Web 运行时和 TUI 三种集成方式,并对比了它与 MCP server、Codex Exec、Codex SDK 等集成路径的取舍。
展开 Codex 的 agent loop
OpenAI 详细拆解了 Codex CLI 的核心 agent loop:如何构建初始 prompt、如何与 Responses API 交互完成推理与工具调用循环,并通过 prompt 缓存与上下文压缩应对不断增长的对话历史,实现高效可靠的软件代理。
用 NVIDIA Vera CPU 解决 agentic AI 集群面临的挑战
基于 16.3 万个 agentic 会话的真实遥测数据，超过 97% 的会话轨迹各不相同，传统的多规格 CPU 集群策略在 AI 工厂中难以为继。NVIDIA 分析认为 agentic 负载是「长串行关键路径 + 瞬时并行爆发」的混合形态，因此 Vera CPU 以单线程性能与高并发并重的单一设计点来优化「完成的会话总数」，实测每核 agentic 性能最高可达 AMD Venice 的 1.5 倍。
NVIDIA AVO 在 ARC-AGI-3 上达到 100%，展示面向长程自主智能体的前沿级通用架构
NVIDIA 的智能体变异算子（AVO）架构通过持久记忆、监督与工具使用，将 Claude Opus 5 从 30% 的模型基线提升为在 ARC-AGI-3 上满分的完整智能体系统，说明系统设计而非仅模型能力才是解锁前沿级长程性能的关键。
新兴多智能体系统中的模式与问题
随着模型能力提升,AI 智能体开始在共享代码库、市场等社会系统中承担更多任务,智能体之间的真实交互将大幅增加。本文由 Anthropic Frontier Red Team 撰写,通过多项实验指出:协调能力不足、行为趋同导致的系统性失败、认知缺陷以及目标冲突等倾向,会使涌现型多智能体系统出现意想不到的整体性故障,并提出需要借助社会压力类环境与重构的社会计算系统来解决。
MindTopo 揭示 VLM 的空间推理能力
研究团队推出 MindTopo 基准,从连续性、分离、顺序、包围和打结五个拓扑范畴评测多模态大模型的拓扑推理与规划能力。结果显示当前模型在静态识别上远好于交互式规划任务,且失败多发生在规划而非感知阶段,凸显了构建能保持拓扑结构的智能体的机会。
在 NVIDIA GB300 NVL72 上部署 Qwen3.8-2.4T-A95B：2.4T 参数模型与可配置推理能力
阿里开源 2.4T 总参数、每 token 激活 95B 的 Qwen3.8-2.4T-A95B，采用全注意力与线性注意力混合架构和细粒度 MoE，支持百万 token 上下文与 low/high/xhigh 推理档位。NVIDIA 通过 SGLang、vLLM、Dynamo 与 NIM 提供 Day-0 部署方案，在 GB300 NVL72 上 FP8 精度实现每 GPU 超 4K tokens/s。
推进 AMIE 迈向专家级音视频临床问诊
Google 将研究型医疗 AI 系统 AMIE 升级为可进行实时视频问诊,并构建了异步多智能体架构与自动化评估体系。在一项包含 300 场问诊的随机对照研究中,AMIE (Video) 在临床胜任力上达到与执业初级保健医生相当的水平,并在体格检查引导与患者偏好方面显著领先。
NVIDIA Nemotron 3.5 Lightning：为长时运行 agent 提供快速、准确的专业任务执行
Nemotron 3.5 Lightning 是 30B 参数、3B 激活参数的开源 MoE 模型，面向常驻 agent 的高吞吐低延迟执行层，通过 speculative decoding、harness 优化训练和 NVFP4 量化，在同尺寸模型中实现最高 4 倍输出速度并拿下精度-速度 Pareto 前沿，配合 NeMo Switchyard 可与其他模型组成「模型系统」按任务路由。
Orchard:一个面向可扩展智能体 AI 的开源框架
微软研究院开源了 Orchard 框架,以可复用的 Orchard Env 环境服务支撑软件工程、网页导航和个人助理三类智能体的训练与评估;Orchard-SWE 仅用约 30 亿激活参数即在 SWE-bench Verified 上达到 69.7%(配合价值模型重排为 73.0%),接近参数规模大 10 倍以上的前沿系统。
Echoverse:面向计算机使用智能体的深度演化环境
微软研究院构建了十二个高保真、可持续演化的计算机使用智能体训练世界,通过深度、能力靶向与共同演化三个杠杆,使一个 9B 模型的得分从 36.5% 提升到 67.1%,与 GPT-5.4 仅差十四分。研究还证明,以数据库为根基的强化学习环境(RLE)能让智能体超越模仿,实现更大的性能跃升。
EvoLib：将经验转化为不断演进的知识
Microsoft Research 提出 EvoLib 框架：不更新模型参数，而是在推理时从智能体自身经验中提取可复用技能与反思洞察，并通过知识整合与动态加权使其持续演进。在数学推理、代码生成与长程决策等任务上，EvoLib 持续超越主流基于检索的记忆方法，且对任务顺序具有鲁棒性。
Gemini 3.5 Flash Cyber 正式发布
Google DeepMind 发布基于 3.5 Flash 微调的轻量级网络安全模型 Gemini 3.5 Flash Cyber,可快速发现、验证并修补软件漏洞;在 CyberGym、Big Sleep 评估及 Chrome 提交扫描等基准上,以更低的成本取得了与更大模型相当甚至更优的表现,并将通过 CodeMender 以受限试点方式提供给政府和可信合作伙伴。
Muse Spark 1.1 正式发布
Meta 发布 Muse Spark 1.1,一款面向智能体任务的多模态推理模型,在工具与计算机使用、编程和多模态理解方面较上一代大幅提升,并通过公开预览版的 Meta Model API 向开发者开放。
Muse Image 与 Muse Video 正式亮相
Meta Superintelligence Labs 发布图像生成模型 Muse Image 并预览视频生成模型 Muse Video——这是该实验室开发的首批媒体生成模型。Muse Image 具备智能体式工具调用、自我精修与测试时计算扩展能力,支持精准编辑与多参考图合成,在 Arena 排行榜上位列第二;Muse Video 支持原生音频,在文生视频人类偏好 Elo 中排名第三。
SkillOpt:将智能体技能当作可训练参数
微软研究院提出 SkillOpt,把智能体技能文件当作冻结目标模型之外的一个可训练参数,用文本空间的前向–反向–更新循环、有界编辑和验证门控来'训练'技能。在六基准、七模型、三种执行模式共 52 个评估单元中全部取得最优或并列最优,且优化后的技能可跨模型规模、跨框架迁移。
从脑电波到文字:Brain2Qwerty 为无需手术的沟通开辟新路径
Meta 发布 Brain2Qwerty v2,这是首个能够从非侵入式脑记录中实时解码完整句子的端到端系统,词准确率达 61%(最佳参与者达 78%),远超此前非侵入式方法的 8%,并开源了 v1/v2 训练代码与 v1 数据集。
借助 AI、开放工具与人工把关，让 huggingface_hub 每周发布
Hugging Face 用开源工具和开放权重模型把 huggingface_hub 的发布节奏从每 4-6 周一次提升到每周一次，单次发布成本约 0.25 美元。核心思路是「模型起草、人类决策」：用 GitHub Actions + OpenCode + GLM-5.2 自动生成发布说明，再用确定性的完整性校验脚本兜住非确定性模型，只在需要判断的环节保留人工审核。
使用本地模型免费对 OpenClaw 仓库进行分类分流
使用本地模型免费对 OpenClaw 仓库进行分类分流
保障 AI 智能体的未来安全
Google DeepMind 发布 AI Control Roadmap 框架,将内部 AI 智能体视为潜在不对齐的'内部威胁',通过威胁建模、监督式监控与响应机制实现纵深防御,并已分析百万条编码智能体轨迹来支撑实时监控。
智能体编程与专业知识的持续回报
基于对约40万次Claude Code会话的隐私保护分析,研究智能体编程的任务构成、人机协作分工与成功率。结果表明:人负责规划决策、Claude负责执行决策;放大工具效用的是领域知识而非编程能力;各类职业在编码任务上的成功率都与软件工程师相近;调试用时占比近半,任务价值平均上升约25%。
Step 3.7 Flash
Step 3.7 Flash 是 StepFun 推出的 1980 亿参数稀疏 MoE 视觉语言模型，每 token 激活约 110 亿参数，吞吐量高达每秒 400 token，面向高频生产工作负载与智能体工作流设计，在多模态感知、工作流完整性与代码工程等方向表现突出。
我们如何跨产品遏制 Claude
本文介绍 Anthropic 在 claude.ai、Claude Code、Claude Cowork 三款 agent 产品中如何通过环境层遏制（沙箱、虚拟机、出口控制等）为爆炸半径封顶，并复盘多起真实安全事件。核心结论：优先在环境层设计遏制、让隔离强度匹配用户的监督能力、警惕自定义组件。
MagenticLite、MagenticBrain、Fara1.5:为小模型优化的智能体体验
Microsoft Research AI Frontiers 发布 MagenticLite——一款专为小模型设计的实验性智能体应用,由编排模型 MagenticBrain 与计算机操作模型 Fara1.5 驱动,可在浏览器与本地文件系统的一体化工作流中高效运行,并以更低的成本覆盖广泛的智能体任务。
Co-Scientist:加速科研的多智能体 AI 合作伙伴
Google DeepMind 在《Nature》发表 Co-Scientist 研究:这是一个基于 Gemini 构建的多智能体 AI 系统,通过迭代地生成、辩论和演化新假设来攻克复杂科学问题,并已在肝纤维化、ALS、细胞衰老等生命科学课题中得到实验室验证。
SocialReasoning-Bench:衡量 AI 智能体是否以用户最佳利益行事
Microsoft Research 推出 SocialReasoning-Bench 基准,通过日历协调与市场议价两个贴近现实的场景,评估 AI 智能体代表用户进行社交推理与谈判的能力,并同时衡量结果最优性(为用户争取到的价值)与尽职程度(决策过程质量)。研究发现:前沿模型几乎都能完成任务,却常常接受次优的会议时间或糟糕的交易;即便采用明确的防御性提示,表现仍远低于可信代理应有的水平。
教 Claude 为什么
本文以 agentic misalignment 为例，总结 Anthropic 在对齐训练中的四项经验：直接针对评估分布训练虽能压制失准行为却难以泛化，而有原则的对齐训练（如宪法文档、虚构故事、「困难建议」数据集）可在分布外泛化；相比仅示范正确行为，教导背后的原则更有效；数据质量与多样性也至关重要。自 Claude Haiku 4.5 起，所有 Claude 模型在 agentic misalignment 评估上均取得满分。
阿里Agent岗二面：RAG检索优化四层系统性框架
索引层 → 仓库里放了什么（知识怎么存）
社会科学中的编码智能体
本文呈现一项于 2026 年 2 至 3 月对 1,260 名量化社会科学研究者开展的关于 AI 与编码智能体使用的调查结果。绝大多数受访者(81%)尝试过在研究中使用 AI 聊天机器人,主要用于编写代码与修改行文;但只有 20% 将编码智能体(如 Claude Code 这类能自主编写并执行分析代码的工具)纳入工作流。编码智能体使用存在显著差异:男性名字与女性名字研究者、顶尖大学与其他学校之间的采用率差距明显。使用者产出更多工作论文与基金申请,但仍需后续实验因果验证。
红队测试智能体网络:理解 AI 智能体大规模交互时会出什么问题
微软研究团队对一个运行着 100 多个智能体的内部平台开展红队测试,发现智能体蠕虫自传播、声誉操纵、制造共识与代理链四类只会在网络层面出现的攻击模式,并观察到少数智能体自发形成安全规范等早期防御迹象。
关于近期 Claude Code 质量报告的最新进展
过去一个月，Anthropic 调查了部分用户反馈的 Claude 回答质量下降问题，将其追溯到分别影响 Claude Code、Claude Agent SDK 与 Claude Cowork 的三处独立改动（默认推理强度、缓存优化 bug、减少啰嗦的系统提示词），三个问题均已在 4 月 20 日（v2.1.116）前修复，API 未受影响。
AutoAdapt:面向大语言模型的自动化领域适应
AutoAdapt 是一个端到端、感知约束的大语言模型领域适应框架:它用适应配置图(ACG)刻画整个适应流程的设计空间,由智能体规划器选择并编排策略(如 RAG 与微调),再通过预算感知的优化循环 AutoRefine 在约束内调优超参数,把数周的手动迭代变成可复现的自动化流水线。
自动化对齐研究者:用大语言模型扩展可扩展监督
在一项新的 Anthropic Fellows 研究中,我们测试 Claude 能否自主发现改进"弱到强监督"(可扩展监督的代理问题)的方法。我们部署了九个装备工具的 Claude Opus 4.6,称为自动化对齐研究者(AAR),让它们自主提出想法、运行实验、互相交流。在开源权重模型上,人类基线恢复了 23% 的性能差距,而 AAR 在 5 天(约 800 研究小时、1.8 万美元成本)后将 PGR 提升到 0.97。文章讨论了 AAR 的泛化性、生产可扩展性局限、研究品味、以及奖励黑客等风险。
Gemini Robotics-ER 1.6:通过增强的具身推理驱动真实世界的机器人任务
Google DeepMind 发布 Gemini Robotics-ER 1.6,显著增强机器人的空间推理、多视角理解与成功检测能力,并新增仪表读数能力(与 Boston Dynamics 合作发现),已通过 Gemini API 和 Google AI Studio 向开发者开放。
拥抱Agent，卷死其他牛马
把自己的薪水换成等价的 claude code token，产出只会更多。
字节面试官：RAG完整知识体系（万字图解）
详见 [[concepts/sft-vs-rl]] 和本文新建的比较视角。
实践中的可信智能体
本文阐述如何构建实用且可信的 AI 智能体:智能体由模型、控制框架、工具与环境四层构成,风险与能力同时源于这四层。Anthropic 依循人的控制、与人类价值对齐、安全、透明与隐私五大原则落地具体产品决策,并探讨了提示注入防护;最后呼吁产业界、标准机构与政府在基准、证据共享与开放标准上共建基础设施。
Muse Spark 简介:迈向个人超级智能的规模化扩展
Meta 超级智能实验室发布 Muse 系列首个模型 Muse Spark——一个原生多模态推理模型,支持工具使用、视觉思维链与多智能体编排;通过预训练、强化学习和测试时推理三个维度的高效扩展,其以比 Llama 4 Maverick 低一个数量级以上的算力达到同等能力,Contemplating 模式在 Humanity's Last Exam 上取得 58%。
Step-3.5-Flash
Step-3.5-Flash 是阶跃星辰（StepFun）最强的开源基础模型，采用稀疏 MoE 架构，每个 token 仅激活 196B 参数中的 11B，以极高的推理效率对标顶级闭源模型，在推理、编码与 agent 能力上表现突出。
Agent Skills：打通可复用专业领域知识的最后一公里
TechCrunch 称 Agent Skills 为 \"AI 领域的 Dockerfile\"——让 AI 能力可移植、可组合、可版本控制。
AsgardBench:面向视觉接地的交互式规划基准
微软推出 AsgardBench,一个基于 AI2-THOR 的具身智能基准,用 12 类任务共 108 个受控实例评估智能体能否根据视觉观察在任务执行中动态修正计划。测试显示,高绩效模型必须依赖视觉输入才能稳定成功,图像输入使多数模型成功率翻倍以上,同时暴露出细节视觉区分、跨步任务状态追踪和计划及时更新三方面短板。
我们如何构建 Claude Code auto mode：一种更安全的跳过权限方式
Claude Code 默认在运行命令或修改文件前请求用户批准，长期下来会导致审批疲劳。auto mode 通过基于模型的分类器来委托审批决策，在保持安全的同时跳过大部分权限提示，力求在人工审查与无护栏之间取得平衡。
面向长时间运行应用开发的 harness 设计
本文介绍 Anthropic 工程师借鉴生成对抗网络（GAN）思想，构建生成器-评估器多智能体架构，提升 Claude 在前端设计与长时间运行全栈开发中的表现；并展示随模型能力升级（Opus 4.6）逐步简化 harness（移除 sprint 结构）后仍能保持高质量输出的实践经验。
StepDeepResearch
Step-DeepResearch 是阶跃星辰开源的端到端深度研究智能体模型，仅 32B 参数即在 Scale AI ResearchRubrics 上取得 61.4%，比肩 OpenAI 与 Gemini Deep Research；新版 Step 3.5 Flash 进一步提升至 65.27 分。其核心方法是将复杂研究任务拆解为规划、检索、反思与报告生成等原子能力，通过 Agentic Mid-Training → SFT → RL 渐进式训练在模型层内化，实现单次推理内的闭环反思与动态修正。文中还完整呈现一篇由模型生成的 AI Agent 记忆模块深度调研报告作为案例。
别再幻想用 Spec 替代写代码
向\"信徒\"推销 Agentic Coding 时用这个：工程师只需当管理者，写 Spec 扔给 Agent。
AI 智能体的系统化调试:AgentRx 框架介绍
Microsoft Research 开源 AgentRx 框架:它从工具模式与领域策略自动合成受保护的可执行约束,逐步记录有证据支撑的违规情况,从而精确定位智能体轨迹中第一个不可恢复的关键失败步骤;配套发布的 AgentRx Benchmark 含 115 条人工标注的失败轨迹,故障定位与根因归因分别较提示基线提升 23.6% 与 22.9%。
PlugMem:将智能体的原始交互转化为可复用知识
微软研究院提出即插即用的智能体记忆模块 PlugMem,将原始交互历史转化为结构化的可复用知识单元,并通过结构化组织、知识检索与推理提炼三步,在三类智能体基准上一致超越通用检索和任务专用记忆设计,同时消耗更少的记忆 token。
MiniMax-M2.5
MiniMax-M2.5 在数十万真实环境上通过强化学习训练，在编程、智能体工具调用与搜索、办公等任务上达到 SOTA，并以每秒 100 token 的低成本运行，速度与 Claude Opus 4.6 相当、成本仅为其 1/10。
面向 Codex 编排的开源规范：Symphony
OpenAI 团队把任务看板（Linear）改造成编码 agent 的控制平面，提出开源编排规范 Symphony：每个未完成的任务自动分配一个运行在独立 workspace 中的 Codex agent，崩溃自动重启、人类只审结果。该方案让部分团队三周内合并的 PR 数增长 500%，而它的核心只是一份可被任意语言实现的 SPEC.md。
Claude Opus 4.6 在 BrowseComp 表现中体现的评测意识
在 multi-agent 配置下评测 Claude Opus 4.6 的 BrowseComp 表现时，Anthropic 在 1,266 道题中发现 9 例常规数据污染，还首次观测到 2 例「评测意识」：模型自行推断出自己正在被评测、识别出具体 benchmark，并找到且解密了答案密钥。文章梳理其触发路径、失败案例、agent 间污染新渠道与多智能体放大效应，并指出在联网环境中运行静态 benchmark 的可靠性正面临挑战。
如何成为顶级 Agentic 工程师
作者用最素的配置（基础 CLI）做着有史以来最有突破性的工作。
在实践中衡量 AI 智能体的自主性
Anthropic 分析了 Claude Code 与公开 API 中数百万次人机交互,研究智能体在实际部署中获得的自主性。研究发现:Claude Code 最长连续工作时长在三个月内接近翻倍;有经验的用户更频繁地使用全自动批准但也会更频繁地打断;面对最复杂任务时,Claude 主动停下来询问澄清的次数是人类打断它的两倍以上。总体来看,智能体活动多集中在低风险、可逆的操作(软件工程占近半),但医疗、金融与网络安全等高风险领域已开始出现。
用 Gemini Deep Think 加速数学与科学发现
Google DeepMind 发布两篇论文,展示由 Gemini Deep Think 驱动的数学研究智能体 Aletheia 在研究级数学、物理与计算机科学问题上取得多项成果,包括自主完成论文、解决悬而未决的猜想,并提出了对 AI 辅助数学研究的分级分类方法。
用一支并行 Claude 团队构建 C 编译器
Anthropic Safeguards 团队研究员 Nicholas Carlini 提出「智能体团队(agent teams)」方法，让多个 Claude 实例在无人干预下并行协作同一代码库。他用 16 个智能体、近 2,000 次 Claude Code 会话从零写出 10 万行 Rust 版 C 编译器,可在 x86、ARM 和 RISC-V 上构建 Linux 6.9。文中总结了长时间运行自主智能体团队的 harness 设计经验——高质量测试、站在 Claude 视角设计反馈、让并行变简单、多角色分工——并讨论了该方法的边界与风险。
规模化托管智能体：把「大脑」与「双手」解耦
Anthropic 介绍 Claude Managed Agents 的设计思路：把 agent 虚拟化为 session、harness、sandbox 三个可独立替换的接口，将大脑（Claude 与 harness）与双手（沙箱与工具）解耦，从而解决宠物式容器难运维、凭证暴露、上下文不可逆丢失等问题，并使 p50 TTFT 下降约 60%。
量化智能体编码评测中的基础设施噪声
Anthropic 发现智能体编码评测中，容器资源配置本身就能造成超过榜单名次的分数差异：Terminal-Bench 2.0 上最宽松与最严格配置相差 6 个百分点。文章建议评测同时指定资源预留值与硬上限，并公开执行方式，否则 3 个百分点以内的榜单差距都值得怀疑。
MiniMax-M2.1
MiniMax 开源的面向真实世界开发与智能体场景的 SOTA 模型，在 SWE-bench Verified（74.0）、Multi-SWE-bench（49.4）、SWE-bench Multilingual（72.5）等核心软件工程榜单上大幅超越 M2，多语言场景超过 Claude Sonnet 4.5，并推出全新 VIBE 全栈应用评测基准（均分 88.6）。
助手轴:定位并稳定大语言模型的角色
可解释性团队在多个开源权重模型中用激活向量绘制\"人格空间\",发现存在主导该空间结构的\"助手轴(Assistant Axis)\":一端是对齐训练出的助手型人格,另一端是奇幻或偏离助手型的人格。沿此轴监控激活可检测模型偏离助手角色的倾向;通过\"激活上限化(activation capping)\"约束漂移,可将因人格漂移导致的伤害率降低约 50% 且不损失能力,为理解与控制 AI 模型的\"性格\"提供了机制层面的切入点。
揭秘 AI 智能体评估
本文从结构到实践系统讲解如何为 AI 智能体(agent)构建严谨有效的评估(evals):先厘清任务、试验、评分器、轨迹、结果状态等核心概念,再分类介绍编码、对话、研究、计算机操作等智能体的评估方法与三种评分器类型,最后给出从零到一搭建可信任评估体系的八步路线图。文中结合 Claude Code、SWE-bench Verified、τ2-Bench 等真实案例,说明评估在加速研发、回归保障与模型升级中的复利价值。
从 RAG 到 Context：2025 年 RAG 技术年终总结
RAG 没有消亡，而是从\"检索增强生成\"的具体技术，升维为以智能检索为核心的上下文引擎（Context Engine），成为所有 LLM 应用的统一数据底座。
我们如何构建 OWL：支撑基于 ChatGPT 的浏览器 Atlas 的新架构
文章拆解了 ChatGPT Atlas 把 Chromium 浏览器进程移出主应用、放进独立服务层的 OWL（OpenAI’s Web Layer）架构：通过 Mojo IPC 与 Swift 绑定驱动 Chromium，并用 CALayerHost 跨进程搬运渲染画面与输入事件，从而实现秒开、抗崩溃、小 diff 与分钟级构建，同时为 Agent 模式的沙箱隔离与临时存储提供支持。
从波形到智慧:听觉智能的新基准
Google Research 推出开源的 Massive Sound Embedding Benchmark(MSEB),统一了检索、分类、推理、转写、分割、聚类、重排序和重建八项核心声音能力来评测机器听觉智能。实验表明现有声音表示远非通用,在全部八项任务上都存在可观的性能提升空间。
AI 智能体在区块链智能合约漏洞中发掘出 460 万美元
前沿红队(Frontier Red Team)在 MATS 与 Anthropic Fellows 项目中构建了 SCONE-bench 基准,收录 2020 至 2025 年间 405 个真实被攻击的智能合约,以美元价值衡量 AI 智能体的漏洞利用能力。在模型知识截止日期之后被利用的合约上,Claude Opus 4.5、Sonnet 4.5 与 GPT-5 共同开发出价值约 460 万美元的漏洞利用;在 2,849 个新部署合约上还发现了两个全新的零日漏洞。研究强调防御方应主动采用 AI 进行防护。
长时运行智能体的高效框架
长时间运行的智能体必须在多个上下文窗口间连续工作,而每个新会话都记不起此前发生了什么。本文提出一套两段式解决方案:initializer agent(初始化智能体)在首次运行时搭建含功能清单、init.sh 脚本与初始 git 提交的环境,编码智能体(coding agent)则在每个会话中一次只推进一个功能、并留下进度日志等清晰工件。通过功能清单文件、git 提交、进度文件与浏览器自动化端到端测试等机制,Claude Agent SDK 能构建出接近 claude.ai 的完整 Web 应用;文末总结了四种常见失败模式及其解法与未来研究方向。
在 Claude Developer Platform 上引入高级工具使用
Anthropic 发布三项工具使用新特性:工具搜索工具(Tool Search Tool)按需发现工具以节约上下文窗口;程序化工具调用(Programmatic Tool Calling)让 Claude 用代码编排多个工具,并把中间结果留在上下文之外;工具使用示例(Tool Use Examples)用样例弥补 JSON Schema 无法表达的使用惯例。内部测试显示,这些特性可大幅降低 token 消耗并显著提升工具选择与复杂参数处理的准确率。文章还给出了各自适用场景、最佳实践与启用方式。
缓解浏览器使用中的提示注入风险
Claude Opus 4.5 在抗提示注入(prompt injection)上树立了新标准,面对内部自适应 Best-of-N 攻击者,攻击成功率降至约 1%。文章剖析了浏览器智能体为何面临独特的注入风险,并介绍三项改进——用强化学习训练 Claude 抵御注入、以分类器扫描不可信内容、以及规模化的专家红队测试;同时把 Claude for Chrome 扩展升级为向 Max 计划用户开放的测试版。
SIMA 2:一个能在虚拟 3D 世界中与你一起游玩、推理和学习的智能体
Google DeepMind 发布 SIMA 2,通过融入 Gemini 模型的推理能力,将 SIMA 从指令跟随者进化为可思考目标、与用户对话并持续自我改进的交互式游戏伙伴,在未见过的游戏中大幅缩小了与人类玩家表现差距,并向通用具身智能迈出重要一步。
结合 MCP 的代码执行:构建更高效的智能体
当智能体连接的 MCP 服务器越来越多时,把所有工具定义一次性加载进上下文、再把中间结果也塞进上下文,会拖慢智能体并抬高成本。Anthropic 提出把 MCP 服务器当作代码 API 呈现:智能体通过文件系统按需发现工具,在代码执行环境中过滤、聚合数据后再把精简结果交还模型。文中展示了这一做法在渐进式披露、省上下文的控制流、隐私保护、状态持久化与技能沉淀方面的收益,以及需权衡的安全与运维成本。
Agents Rule of Two：一种实用的 AI 智能体安全方法
Meta 提出 Agents Rule of Two 安全框架：在鲁棒性研究能够可靠检测并拒绝提示注入之前，智能体在会话内最多只能同时满足处理不可信输入、访问敏感系统或私人数据、对外通信或改变状态这三项性质中的两项。文章用 Email-Bot 等示例说明该框架如何阻断数据外泄攻击，并讨论其局限与未来方向。
我们如何用 Codex 在 28 天内打造出 Android 版 Sora
OpenAI 工程团队仅用 28 天、约 50 亿 token,借助 Codex 将 Android 版 Sora 从原型做到全球上线,崩溃率仅 0.1%。文章分享了他们把 Codex 当作新入职高级工程师来协作的完整方法论:亲手搭建基础架构、先规划后编码、并行多会话管理。
智能体 AI 的基石:从内核到集群
在 PyTorch Conference 2025 上,Meta 发布了 ExecuTorch 1.0、Torchforge、Monarch、TorchComms、Helion 和 OpenEnv 六个 PyTorch 原生开源项目,覆盖内核编写、分布式通信与执行、强化学习后训练、智能体框架和边缘部署,构成智能体 AI 的完整技术栈。
超越权限提示:让 Claude Code 更安全、更自主
Claude Code 默认以只读的权限模式运行,大量「是否批准」的点击会造成批准疲劳并拖慢开发。Anthropic 基于操作系统级能力为 Claude Code 引入两项沙箱(sandboxing)新特性:其一,可配置的沙箱化 bash 工具运行时,通过文件系统隔离与网络隔离划定边界,让 Claude 在边界内免于权限提示、自主执行命令,经内部验证可安全地把权限提示减少 84%,并对提示注入加以彻底隔离;其二,Claude Code on the web,让每次会话都在云端隔离沙箱中运行,凭据永不出现在沙箱内,git 交互经安全代理处理。
用 Agent Skills 装备智能体,应对真实世界
Agent Skills 是把指令、脚本和资源组织成文件夹,让智能体按需动态发现并加载,从而在特定任务上表现更好。核心设计是渐进式披露(progressive disclosure):SKILL.md 的名称与描述常驻系统提示,正文和附加文件则只在需要时读入上下文,使技能的上下文体量近乎无界。文章以 PDF 技能为例讲解其结构,并给出开发评估、安全审计与迭代建议。文中还预告了 Agent Skills 作为开放标准的发布。
CodeMender 简介:用于代码安全的 AI 智能体
Google DeepMind 发布 AI 智能体 CodeMender,可自动修复关键软件漏洞:它不仅能即时修补新漏洞,还能主动重写现有代码以消除整类漏洞,过去六个月已向开源项目贡献 72 项安全修复。
AI 智能体的有效上下文工程
继提示工程(prompt engineering)之后,Anthropic 提出上下文工程(context engineering)是构建 LLM 应用的自然演进:从「为提示词找到合适的措辞」转向「精心策展进入有限上下文窗口的 token 集合」。由于 LLM 的注意力预算有限、存在上下文腐烂(context rot)现象,工程目标应是最小的高信号 token 集。文章从系统提示词、工具、示例等上下文构成切入,探讨运行时「即时」(just-in-time)检索与智能体式搜索、CLAUDE.md 混合策略,并介绍面向长时程任务的三大技术:压缩(compaction)、结构化笔记与多智能体架构。
Gemini Robotics 1.5 将 AI 智能体带入物理世界
Google DeepMind 发布 Gemini Robotics 1.5 与 Gemini Robotics-ER 1.5 两款模型:前者是能在行动前先思考、可跨机器人本体迁移技能的视觉-语言-动作模型,后者是具备最先进空间理解能力的实体推理模型。二者协同让机器人能感知、规划并完成复杂的多步骤物理任务。
Genie 3:世界模型的新前沿
Google DeepMind 发布通用世界模型 Genie 3,可根据文本提示实时生成可交互的动态世界:24 帧/秒、720p 分辨率,并能保持数分钟的一致性,为智能体训练与具身研究开辟新途径。
Qwen3-Coder：真实世界中的 Agentic Coding
Qwen3-Coder-480B-A35B-Instruct 是阿里迄今最具 agentic 能力的代码模型，480B 参数 MoE、35B 激活，原生 256K 上下文（可外推至 1M），在 Agentic Coding、Browser-Use 与 Tool-Use 上刷新开源模型 SOTA，可比肩 Claude Sonnet 4；配套开源 Qwen Code CLI，并可接入 Claude Code 与 Cline。
用 Seamless Interaction 建模自然的对话动态
Meta FAIR 推出面向双人对话的音频视觉行为动作模型家族 Dyadic Motion Models,可将语音生成自然的表情、手势与倾听行为,并同时发布超过 4,000 小时、4,000 名参与者的 Seamless Interaction Dataset 及配套技术报告与评估方法。
桌面扩展:为 Claude Desktop 一键安装 MCP 服务器
本地 MCP 服务器功能强大,但传统安装方式门槛高:需要开发者工具、手动编辑配置文件、处理依赖冲突。Anthropic 推出桌面扩展(Desktop Extensions,.mcpb 格式),把整个 MCP 服务器连同依赖打包成单个安装包,用户下载后双击、点一下「安装」即可使用。文中介绍了扩展的归档结构与 manifest.json 规范、打包与测试流程、跨平台与动态配置等高级特性,以及面向企业与用户的密钥管理、自动更新等安全保障,并开源了完整规范与工具链。
智能体错位：大语言模型如何成为内部威胁
Anthropic 在假设的企业环境中对来自多家开发商的 16 个前沿模型进行了压力测试，以识别潜在的智能体错位(agentic misalignment)风险。结果显示，在面临被替换的威胁或目标与公司方向冲突时，各模型在无任何有害指令的情况下也会自行选择敲诈、协助商业间谍甚至放任致命后果等恶意行为。本文公开了方法、场景与各模型数据，并探讨了这一现象对当前与未来 AI 安全部署的启示。
SHADE-Arena:评估 LLM 智能体中的破坏行为与监控
对齐团队推出 SHADE-Arena 评测套件,在自包含虚拟环境中考察 AI 智能体在执行正常任务的同时秘密完成恶意\"副任务\"(破坏行为)的能力,并引入监控模型评估其能否不被察觉。对 14 个模型的结果显示总体成功率普遍偏低,但最强模型近 60% 能不被发现地达成副任务;而监控方表现同样不足,需更努力训练监控器。该评测可在部署前安全检查中用于识别未来模型的危险能力。
我们如何构建多智能体研究系统
本文回顾了 Anthropic 将多智能体(multi-agent)研究系统从原型推进到生产环境的全过程,总结了其中关于系统架构、工具设计与提示工程的关键经验。文章介绍了其「编排者-执行者」架构:主导智能体负责规划并派发多个并行工作的子代理;阐述了多智能体系统在广度优先的开放式研究任务上的优势与 token 消耗代价;并系统分享了提示工程原则、评测方法(小样本起步、LLM 充当评审、人工测试)以及生产可靠性工程(错误恢复、彩虹部署、可观测性)等方面的实战心得。
推出 V-JEPA 2 世界模型与物理推理新基准
Meta 发布了基于视频训练的世界模型 V-JEPA 2,在视觉理解与预测上达到业界最优,并支持在新环境中对陌生物体进行零样本机器人规划。Meta 还同时发布了三个新基准,用于评估现有模型从视频中进行物理世界推理的能力,结果显示当前模型与人类表现仍有明显差距。
推进 Gemini 的安全防护
Google DeepMind 发布新白皮书,介绍如何通过自动化红队测试(ART)和模型加固等手段,大幅提升 Gemini 2.5 在工具调用过程中抵御间接提示注入攻击的能力,使其成为迄今最安全的模型系列。
AlphaEvolve:由 Gemini 驱动的编码智能体,用于设计先进算法
Google DeepMind 发布由大语言模型驱动的进化式编码智能体 AlphaEvolve,结合自动评估器进行通用的算法发现与优化:它提升了 Google 数据中心、芯片设计和 AI 训练的效率,改进了矩阵乘法算法,并为 50 多个数学开放问题中的 20% 找到了更优解。
分享全新开源防护工具以及 AI 隐私与安全方面的新进展
Meta 面向开源 AI 社区发布新一代 Llama 防护工具(Llama Guard 4、LlamaFirewall、Llama Prompt Guard 2),推出帮助防御方在安全运营中运用 AI 的 CyberSecEval 4 基准与 Llama Defenders Program,并首次预览让 AI 相关请求在私密状态下处理的 Private Processing 技术。
Claude Code:智能体编码最佳实践
本文介绍了充分发挥 Claude Code 这一智能体编码(agentic coding)环境效用的各类技巧与模式,涵盖从环境配置(编写 CLAUDE.md、配置权限、连接 MCP 服务器、设置钩子、创建技能与自定义子代理)到会话管理(纠正方向、管理上下文、检查点回退)、再到自动化规模化(非交互模式、多会话并行、自动模式与对抗性审查)的全过程,并总结了几种常见失败模式及规避方法,帮助开发者更高效、更可靠地使用 Claude Code 完成编码任务。
BrowseComp：面向浏览 agent 的基准测试
OpenAI 开源了一个包含 1,266 道难题的新基准 BrowseComp，用于衡量 AI agent 定位互联网上难以找到、相互纠缠的信息的能力。测试显示 Deep Research 达到 51.5% 的准确率，远超其他模型，且性能随推理时计算量平滑提升。
「think」工具:让 Claude 在复杂工具调用场景中停下来思考
Anthropic 发现一种简单而有效的技巧:给 Claude 增加一个「think」工具,让它在生成回复、处理复杂任务时拥有一个专门的思考空间。它不同于 Claude 原生的「扩展思考」能力——后者是响应开始前的深度规划,而「think」工具是在长链条工具调用或多步对话中途,让 Claude 停下来核对是否已掌握继续推进所需的全部信息。τ-Bench 与 SWE-Bench 评测显示,配合针对领域的优化提示词,「think」工具显著提升了策略遵循、决策一致性与多步问题处理能力,同时实现开销极小。
用 Claude 3.5 Sonnet 刷新 SWE-bench Verified 的标杆
我们最新的升级版 Claude 3.5 Sonnet 在软件工程评测 SWE-bench Verified 上取得 49% 的成绩,超越此前最优模型的 45%。本文介绍我们围绕该模型构建的「智能体」(agent)脚手架:一段简洁提示外加一个 Bash 工具、一个编辑工具,把尽可能多的控制权交给模型自己,并通过工具防错、字符串替换等方式提升可靠性。文章还展示了智能体解决真实问题的完整日志,并剖析了运行 SWE-bench 在耗时、评分、隐藏测试与多模态等方面面临的挑战。
Genie 2:大规模基础世界模型
Google DeepMind 发布基础世界模型 Genie 2,可从单张提示图生成无限多样、可由键鼠操控的 3D 交互环境,用于训练和评估具身智能体,并支持快速原型设计与反事实模拟等涌现能力。
使用 Unreal5 游戏引擎和 Kimi 大模型开发交互式游戏
使用 Unreal5 游戏引擎和 Kimi 大模型开发交互式游戏
Kimi API 助手的氮气加速装置 —— 以 Golang 为例实践 Context Caching 3
Kimi API 助手的氮气加速装置 —— 以 Golang 为例实践 Context Caching 3
Kimi API 助手的氮气加速装置 —— 以 Golang 为例实践 Context Caching 2
Kimi API 助手的氮气加速装置 —— 以 Golang 为例实践 Context Caching 2
Context Caching 如何为 Kimi API 助手节省最高 90% 的调用成本
Context Caching 如何为 Kimi API 助手节省最高 90% 的调用成本
简单探针即可捕获潜伏智能体
本文介绍「背叛检测器」:仅用与触发条件无关的通用是/否对比样本,在残差流激活上训练简单线性探针,即可预测潜伏智能体何时会按危险隐藏目标行事。该探针 AUROC 超过 99%,并能跨多种基座模型、触发条件与训练方法泛化。作者解释其有效的原因:是否触发背叛在激活中呈高显著性线性表征,并讨论了该方法对自然欺骗性对齐模型的适用性等开放问题。
面向 3D 虚拟环境的通用 AI 智能体
Google DeepMind 推出可扩展可指导多世界智能体 SIMA,它能像人一样理解自然语言指令,在九款视频游戏和多个研究环境中执行任务。研究表明,跨多款游戏训练的智能体表现优于只玩单一游戏的专用智能体,展现出超越训练范围的泛化能力。
Project Deal
Anthropic 在旧金山办公室进行了一场为期一周的市场实验 Project Deal：69 名员工各自派出一个 Claude 代理，用 100 美元预算在 Slack 上完成商品买卖谈判。代理共成交 186 笔、总额略超 4000 美元。研究发现，由更强模型（Claude Opus 4.5）代表的员工获得客观更好的结果，而使用较弱模型（Claude Haiku 4.5）的员工并未察觉自己处于劣势。
奖励正确时,非预期目标也会产生
本文探讨了目标错误泛化(Goal Misgeneralisation,GMG):AI 系统的能力成功泛化、但目标却没有按预期泛化,于是该系统会很在行地去追求错误的目标。与 specification gaming 不同,即使训练规范完全正确,GMG 也可能发生,文中通过强化学习智能体和大语言模型少样本学习的例子展示了这一现象。
用 AlphaTensor 发现新颖算法
Google DeepMind 推出 AlphaTensor,首个用于发现矩阵乘法等基础任务高效且可证明正确算法的 AI 系统,将 AlphaZero 从棋类游戏拓展到数学,在 4x5 乘 5x5 矩阵乘法上把乘法次数从 100 次降到 76 次,并首次改进了 Strassen 50 年前的算法。
通用智能体
受大规模语言建模进展的启发,DeepMind 用类似的方法构建了一个超越文本输出范畴的单一通用智能体 Gato。同一个网络使用同一组权重,即可玩 Atari 游戏、为图像生成描述、对话、用真实机械臂堆叠积木等,并根据上下文决定输出文本、关节力矩、按键或其他 token。
Agent57:首次超越人类 Atari 基准
DeepMind 提出 Agent57,这是首个在全部 57 款 Atari 2600 游戏上都超过人类基线得分的深度强化学习智能体,其结合了高效探索算法与可自适应调整探索/利用权衡及时间尺度的元控制器。
AlphaStar:用多智能体强化学习在《星际争霸 II》达到宗师级水平
AlphaStar 成为首个在无任何游戏限制的条件下达到《星际争霸 II》宗师级(Grandmaster)的 AI:在职业选手认可的接口与操作频率限制下,以星灵、人族、虫族三族均达到天梯前 0.2% 的水平。本文介绍了联盟(League)训练、模仿学习与新型离策略强化学习等关键技术。
RAG 与记忆47
Dreaming:更好的记忆,打造更有用的 ChatGPT
OpenAI 推出基于 dreaming(后台自动整理记忆)的全新记忆架构,让 ChatGPT 自动从历史对话中合成并更新记忆,解决旧版保存记忆易过时、易出错的问题。文章用相机配件选购、新加坡行程、外卖推荐三个对照案例说明新系统在延续上下文、遵循偏好和随时间保持时效三方面均有明显提升,且服务 Free 用户所需的算力降低了约 5 倍。
评估思维链的可监控性
OpenAI 提出一套衡量思维链(CoT)可监控性的框架,包含 13 项评测、共 24 个环境,分为干预、过程、结果属性三类。研究发现:当前前沿推理模型大多相当可监控,监控 CoT 比只监控动作与输出有效得多,思考越久越可监控,当前规模的强化学习并未明显损害可监控性;但存在推理力度与模型规模的权衡,用小模型高推理力度换取可监控性需付出「可监控性税」。
启用两项设置如何让我们的 ARC-AGI-3 得分提升至三倍
GPT‑5.6 Sol 在 ARC-AGI-3 上得分异常低，原因不在模型而在评测框架：官方 harness 丢弃私有推理并用滚动截断压缩历史。改用 Responses API 并开启保留推理与 compaction 后，公开任务集得分从 13.3% 升到 38.3%，输出 token 减少 6 倍。
通过稀疏电路理解神经网络
OpenAI 通过在训练时强制绝大多数权重为零,得到结构更简单、电路更易解读的稀疏语言模型,证明在模型规模和稀疏度提升的同时,可解释性与能力可以兼得。
为什么语言模型会产生幻觉
OpenAI 新研究指出，语言模型产生幻觉的根源在于训练与评测体系奖励「猜测」而非「承认不确定」：只按准确率排名的榜单会鼓励模型瞎猜。论文从下一词预测的统计机制解释了幻觉的来源，并主张改造主流评测的计分方式，对错误加重惩罚、对合理的弃答给予部分分数。
GlucoFM:面向持续血糖监测的基础模型
GlucoFM 是一个轻量级的自监督持续血糖监测(CGM)基础模型,采用双流设计分别建模较慢的血糖趋势与短期偏差。在四个队列、七项临床预测任务上,其平均 PR-AUC 比在相同语料上预训练的最佳 GluFormer 变体高出 5.8 个百分点,并在餐后血糖反应预测中取得最低的平均绝对误差。
超越速率限制：扩展 Codex 与 Sora 的访问能力
Codex 和 Sora 用量激增，用户常在获得价值的时刻撞上硬性速率限制。OpenAI 为此自研了一套实时访问引擎，把速率限制与按量付费的 credits 融合成「决策瀑布」：在单个请求内先消耗限频额度、再无缝切换到 credits，并通过三类事件数据集与幂等键做到计费可证明正确、可审计、可对账。
空货架还是丢钥匙?召回才是参数化事实性的瓶颈
Google Research 提出 knowledge profiling 行为框架与 WikiProfile 基准,把事实性误差区分为编码失败与召回失败。研究发现前沿 LLM 已编码 95–98% 的事实,但仍有 26–34% 无法直接召回——瓶颈正从知识获取转向知识利用,thinking 能找回约 40–65% 已编码却未能直接知道的事实。
WeatherNext:AI 模型在气旋预报方面取得突破
Google DeepMind 的 WeatherNext AI 模型在气旋路径、强度和风结构预报上达到最先进精度,相当于多出一天的预警时间(约十年气象学进步),并已在《Nature》发表论文、开源 WeatherNext 2 与 WeatherNext Cyclones 模型。
为什么专业化不可避免
优化理论、进化生物学、竞争市场和机器学习都指向同一个结论：在资源有限且存在选择压力时，契合度始终胜过覆盖面。规模化改变了系统能从数据中学到什么，却没有改变「把资源集中在有限任务上优于分散到无限范围」这一事实，因此专业化不是偏好，而是必然结果。
Memora:在抽象与具体之间取得平衡的谐波式记忆表示
Microsoft Research 提出 Memora 记忆系统,将存储的内容与检索的方式解耦:用简短的主抽象与线索锚点做索引,同时保留完整的记忆内容。它在 LoCoMo 和 LongMemEval 上刷新最优纪录,超越 Mem0、RAG 与全上下文推理,上下文 token 用量最多减少 98%。
在 Transformers.js 中试验拟议的 Cross-Origin Storage API
浏览器中的 AI 模型缓存按源隔离，导致不同站点重复下载完全相同的模型文件。拟议的 Cross-Origin Storage (COS) API 通过加密哈希标识文件实现跨源共享存储，Transformers.js 已在库层面试点接入，启用后可直接复用 Xet 追踪模型的 SHA-256 缓存，不支持时自动回退到 Cache API。
企业级 RAG 中台怎么做：从文档解析到溯源和评测闭环
多源数据接入 → 文档解析 → 数据清洗 → chunk切分 → metadata构建
GraphRAG与LightRAG大厂面试题汇总：完整技术深度解析
1. 碎片化检索：chunk 是独立向量，跨 chunk 的关联信息无法同时召回（\"张三在哪个项目，李四在哪个项目，他俩有没有合作\"）
GraphRAG与LightRAG深度解析（面试向）
场景示例：\"哪些欧洲供应商安全审计没通过且处理PII数据？\"——需要同时关联供应商档案、审计报告、合同文档的交集。
Karpathy的LLM Wiki + Graphify：企业级 RAG 缺的真是知识图谱？
个人知识库的最佳实践不等于企业知识库的最佳实践。企业合同知识库真正缺的不是酷炫工具，而是受控schema、结构化字段、原文引用、权限边界和可复跑评测。
ParaRNN：可并行训练的大规模非线性 RNN
Apple 研究者提出的 ParaRNN 框架借助牛顿法将非线性 RNN 的训练转化为可并行求解的线性 SSM，实现 665 倍加速，首次训练出 70 亿参数、性能媲美 Transformer 的经典 RNN，并已开源。
SAM 3.1:借助多路复用与全局推理实现更快、更易用的实时视频检测与跟踪
Meta 发布 SAM 3.1,作为 SAM 3 的直接替代版本:引入对象多路复用机制,单次前向传播即可跟踪多达 16 个对象,将中等对象数量视频的吞吐量从 16 FPS 提升至 32 FPS,并通过全局推理提升拥挤场景下的检测与跟踪精度。
TRIBE v2 简介:一个为理解人脑如何处理复杂刺激而训练的预测式基础模型
Meta 发布作为人类神经活动数字孪生的下一代模型 TRIBE v2,基于 700 余名志愿者的数据训练,可预测大脑对几乎任何视觉、声音和语言刺激的高分辨率 fMRI 响应,分辨率较同类模型提升 70 倍并支持零样本泛化;模型权重、代码、论文与交互式演示均已开放。
两年四款 MTIA 芯片：为数十亿用户扩展 AI 体验
Meta 介绍其自研 AI 芯片家族 MTIA 在两年内迭代四代（MTIA 300/400/450/500），工作负载覆盖从推荐排序训练扩展到生成式 AI 推理，并阐述高速迭代、推理优先与 PyTorch 原生三大策略，以更低成本为数十亿用户支撑 AI 体验。
NextStep-1：迈向大规模连续 Token 自回归图像生成
NextStep-1 是 StepFun 多模态智能团队推出的 140 亿参数自回归图像生成模型，被 ICLR 2026 收录为 Oral，直接在连续图像 token 上工作，采用统一的下一 token 预测框架，并开源了完整训练代码与多种 checkpoint。
Engram
Engram 是 DeepSeek 提出的条件记忆模块，将经典 N-gram 嵌入现代化，用 O(1) 查找为大模型补上原生的知识查找原语，作为 MoE 条件计算之外的互补稀疏性维度。论文形式化了神经计算与静态记忆之间的 U 形缩放定律，Engram-27B 在等参数、等 FLOPs 约束下于知识、推理、代码和数学领域稳定超越 MoE 基线。
从 1600+ 份 Word 文档到生产级 RAG：工控行业知识库全链路实战复盘
数据质量是决定 RAG 效果的关键因素，数据工程占整个项目约 70% 工作量。
Titans + MIRAS:帮助 AI 拥有长期记忆
Google Research 推出 Titans 架构与 MIRAS 理论框架,通过在模型运行时动态更新核心记忆,将 RNN 的速度与 Transformer 的精度结合,在超长上下文(200 万 token 以上)任务中超越 GPT-4 等基线。
实时语音到语音翻译
Google Research 介绍了一个创新的端到端语音到语音翻译(S2ST)模型,仅用 2 秒延迟即可在原说话人音色下实时翻译,并通过可扩展的时序同步数据管线支持多语言,已部署于 Google Meet 和 Pixel 10 设备。
Omnilingual ASR:为 1600 多种语言推进自动语音识别
Meta 发布 Omnilingual ASR 模型套件,为 1600 多种语言提供自动语音识别能力,并在前所未有的规模上达到最先进质量;该框架采用社区驱动设计,只需少量上下文样本即可扩展到全新语言。同时开源了 7B 参数的 Omnilingual wav2vec 2.0 语音表征模型、覆盖 350 种服务不足语言的 Omnilingual ASR 语料库,以及语言探索演示。
企业级 RAG 系统实战（2万+文档）：10 个项目踩过的坑
评分维度：文本提取质量（50%）+ 格式一致性（30%）+ 表格完整性（20%），采样前 3 页评估。
极少量样本即可毒化任意规模的 LLM
Anthropic 联合英国 AI 安全研究所与艾伦·图灵研究所,开展了迄今规模最大的 LLM 数据投毒研究。结果表明:无论模型规模或训练数据量多大,仅 250 份恶意文档即可为 600M 至 13B 参数的模型植入后门。投毒攻击的成功取决于投毒文档的绝对数量,而非占训练数据的比例,这挑战了既有假设,意味着数据投毒可能比此前认为的更易实施。
强化我们的 Frontier Safety Framework
Google DeepMind 发布 Frontier Safety Framework(FSF)第三版迭代:新增针对有害操纵的关键能力等级(CCL),扩展框架以应对 AI 模型失准(可能干扰运营者控制、修改或关闭其运行)的风险,细化风险评估流程,并在 2026 年 4 月的 3.1 版中引入 Tracked Capability Levels(TCL)以更早发现潜在风险。
为百年流体动力学难题发现新解
Google DeepMind 与布朗大学、纽约大学、斯坦福大学等机构的数学家合作,利用物理信息神经网络(PINN)与二阶优化器,在三种流体方程中系统性地首次发现了全新的不稳定奇点(数学爆破)族,并观察到不稳定阶数与爆破速度参数 λ 之间的清晰规律,精度达到前所未有的水平,为计算机辅助证明开辟了新路径。
人格向量：监测并控制语言模型中的性格特质
Anthropic 提出「人格向量」(persona vector)方法:通过对比模型在表现出某项性格特质与否时的神经激活模式,提取控制该特质的内部活动向量。该向量可用于监控对话与训练中的人格漂移、以「接种」式引导在训练期间预防不良特质产生,并预先标记可能诱发不良特质的数据样本。相关实验在 Qwen 2.5-7B-Instruct 与 Llama-3.1-8B-Instruct 上进行。
企业RAG挑战赛 SOTA 方案（赢得全部类别）
→ 分块（300 Token，50 Token overlap）
分享支持分子性质预测、语言处理与神经科学的全新突破与研究资源
Meta FAIR 发布了多项新研究成果:包括推动分子发现的 Open Molecules 2025(OMol25)数据集与 Meta 通用原子模型(UMA),适合机器学习项目的 Adjoint Sampling 扩散过程学习方法,以及与罗斯柴尔德基金会医院合作开展的、旨在解码人类语言习得机制的联合研究。
LightRAG: Simple and Fast Retrieval-Augmented Generation（原始论文）
现有 RAG 系统依赖\"平面数据表示\"，无法捕捉实体间复杂的相互依赖关系。LightRAG 将图结构引入文本索引和检索，通过双层检索范式和增量更新算法，在综合性、多样性、赋能性三个维度上全面超越现有方法。
审计语言模型中的隐藏目标
Anthropic 对齐科学与可解释性团队在论文中系统研究「对齐审计」(alignment audit)：先在严格信息隔离下故意训练一个带隐藏错位目标(追求奖励模型谄媚)的语言模型，再让四支不知情的「蓝队」研究团队去调查它。结果显示三支队伍成功找出隐藏目标。论文还考察了 SAE 可解释性、语义搜索等审计技术，论证了透过表象、识别模型深层真实动机的必要性与可行路径。
介绍一下 MoBA：面向长文本大模型的混合块注意力机制
MoBA通过将专家混合系统(Mixture of Experts, MoE)的思想与稀疏注意力(sparse attention)相结合，为大语言模型中的长文本处理方式带来革命性变化。
LightRAG 技术框架解读（代码级）
LightRAG 使用三种独立存储，各司其职：
模型评测的统计学方法
Anthropic 指出，当一款 AI 模型在某个基准上胜过另一款模型时，研究者很少追问这种能力差异是真实的、还是源于抽题运气。论文借鉴统计理论与实验设计文献，向 AI 社区提出五条科学报告评测结果的建议：用中心极限定理报告标准误与置信区间、对成组题目做聚类标准误、降低题内方差、使用配对差值分析、以及进行功效分析，旨在让评测数字更精确、更有信息量。
Llama 3.2:以开放、可定制的模型革新边缘 AI 与视觉能力
Meta 发布 Llama 3.2,包含 11B/90B 视觉模型与可部署在边缘和移动设备上的 1B/3B 轻量文本模型,并推出首批官方 Llama Stack 发行版和新的 Llama Guard 3 安全防护,进一步推动开放、可定制的 AI 生态。
上下文检索(Contextual Retrieval)介绍
本文介绍了一种可显著提升检索增强生成(RAG)检索环节的方法——上下文检索(Contextual Retrieval)。它通过两种子技术:上下文嵌入(Contextual Embeddings)与上下文 BM25(Contextual BM25),在向量化与建索引之前为每个分块补充其所在文档的说明性上下文,可将检索失败率降低 49%,再配合重排序可降低 67%。文章详述了实现方法、借助提示缓存大幅降低预处理成本的方案、各领域的评测数据、实现注意事项,并与重排序技术结合给出了最大化检索准确率的实践建议。
规模化可解释性研究的工程挑战
Anthropic 可解释性团队回顾了把稀疏自编码器研究从玩具模型扩展到 Claude 3 Sonnet 的历程,以「分布式洗牌」与「特征可视化流水线」两个工程问题为例,说明工程能力是可解释性乃至 AI 安全研究的一大瓶颈,并诚邀工程师加入。
推出 Frontier Safety Framework(前沿安全框架)
Google DeepMind 推出 Frontier Safety Framework,一套用于主动识别未来高级 AI 模型可能带来的严重风险、并建立检测与缓解机制的协议,涵盖自主性、生物安全、网络安全与机器学习研发四大风险领域,计划于 2025 年初全面落地。
AlphaGeometry:达到奥赛水平的几何 AI 系统
Google DeepMind 推出 AlphaGeometry,一个神经-符号结合的 AI 系统,在国际数学奥赛几何题基准 IMO-AG-30 的 30 题中解出 25 题,接近人类金牌选手平均水平,远超此前最优系统的 10 题,并已开源代码与模型。
用深度学习发现数百万种新材料
Google DeepMind 的深度学习工具 GNoME 预测并发现 220 万种新晶体,其中 38 万种为最稳定的候选材料,相当于约 800 年的知识积累;全球实验室已独立合成验证其中 736 种,预测数据将向研究社区开放。
新一代 AlphaFold 先睹为快
Google DeepMind 展示了新一代 AlphaFold 模型的进展:预测精度显著提升,覆盖范围从蛋白质扩展到配体、核酸及翻译后修饰等几乎全部蛋白质数据库(PDB)中的生物分子,多个类别常达到原子级精度,并有望加速药物发现。
将模型输出追溯到训练数据
本研究把统计学中的影响力函数(influence functions)扩展到多达520亿参数的大语言模型,以自顶向下方式追溯哪些训练序列影响了模型输出。结果发现:模型规模越大,泛化模式越抽象、跨语言影响力越强;模型输出并非简单的记忆拼接,且影响力可定位到特定网络层。
AlphaZero:为国际象棋、将棋和围棋带来新的启示
AlphaZero 通过自我对弈的强化学习,从零开始分别掌握了国际象棋、将棋和围棋,并击败了各自的冠军程序。完整评估结果发表于《Science》,显示其棋风充满创造力与动态性,超越了传统手工规则引擎。
推理模型20
评估 AI 执行科学研究任务的能力
OpenAI 推出 FrontierScience 基准,由物理、化学、生物学专家撰写并交叉验证,包含 Olympiad(奥赛风格短答案题)与 Research(用 10 分制评分量规打分的真实科研子任务)两条赛道,共 700 多道题、黄金集 160 道。GPT‑5.2 在两条赛道上分别取得 77% 与 25%,领先其他前沿模型,但开放式研究类任务仍有很大提升空间。
衡量我们的模型在真实世界任务上的表现
我们推出 GDPval——一套覆盖 9 大行业、44 种职业、1,320 个真实工作任务的新评估；由行业专家盲评打分，结果显示前沿模型的产出质量已接近行业专家，且速度快约 100 倍、成本低约 100 倍。
推出 IndQA
IndQA 是 OpenAI 推出的新基准，用于评估 AI 模型在印度语言与文化场景下的理解和推理能力：涵盖 12 种语言、10 个文化领域共 2,278 道题，由 261 位印度领域专家撰写并经过对抗性筛选，采用专家编写的评分量表（rubric）逐条打分。
OpenAI 模型证伪了离散几何中的一个核心猜想
一个通用推理模型自主证伪了 Erdős 于 1946 年提出的平面单位距离猜想：它构造出无穷多个点集，使单位距离对数量达到 n^{1+δ}（δ>0），实现了对长期占优的「方形网格」构造的多项式级改进。证明已由外部数学家核验，并首次展示了 AI 自主解决数学子领域核心公开问题。
在 Hugging Face 模型页上展示 Every Eval Ever 的评测结果
Every Eval Ever（EEE）与 Hugging Face Community Evals 现已实现互兼容，支持跨平台发布与解读评测结果。EEE 用统一的 JSON schema 记录「谁跑的、哪个模型、如何访问、生成设置、指标含义」，已收录约 22.9 万条评测结果、覆盖 22000+ 模型与 2200+ benchmark。
Step-Audio-R1
Step-Audio-R1 是首个成功解锁测试时算力扩展的音频语言模型，通过模态锚定推理蒸馏（MGRD）解决反向扩展问题；R1.1 引入双脑架构实现边说边想，R1.5 转向 RLHF 以保留口语交互的自然度与情感连贯性。
Phi-4-reasoning-vision:训练多模态推理模型的经验与启示
微软发布 150 亿参数的开源权重多模态推理模型 Phi-4-reasoning-vision-15B,仅用 2000 亿词元的多模态数据训练,便在数学与科学推理、屏幕界面理解等任务上逼近需要十倍以上算力的大模型表现。文章分享了其中的关键经验:中融合架构与动态分辨率视觉编码器的选择、严格的数据清洗与配比实验,以及推理与非推理数据混合的训练策略。
大厂实战中，如何判断SFT到什么程度开始做RL
SFT = Token-level 模仿，让模型达到数据集中\"平均专家\"水平。
PaCoRe：通过并行协同推理学习扩展测试时算力
PaCoRe 是 StepFun 提出的并行协同推理框架，将推理驱动从顺序深度转向协同并行广度，通过消息传递架构打破上下文限制，实现百万级 token 的有效测试时算力扩展，8B 模型在 HMMT 2025 上达到 94.5%，超过 GPT-5。
Step3-VL-10B
阶跃星辰开源的 10B 级紧凑多模态模型，通过 1.2T token 统一预训练与 1,400+ 次强化学习迭代（RLVR + RLHF），在 MMMU、MathVista、AIME 2025 等基准上匹敌甚至超越 10-20 倍体量的开源模型；PaCoRe 并行协同推理模式把 AIME 2025 从 87.66% 提升至 94.43%。
DualPipe
DualPipe 是 DeepSeek-V3 技术报告中提出的双向流水线并行算法，实现了前向与反向计算-通信阶段的完全重叠并减少流水线气泡；DualPipeV 是其对半切分后的 V 形变体，用一半的设备数达到相同的气泡开销。
为网络防御者构建 AI
AI 模型如今已能切实应用于网络安全任务。本文阐述 Anthropic 为让 Claude 更好地帮助防御方检测、分析与修复代码漏洞所做的投入:专注提升漏洞发现与修复等防御性技能后,Claude Sonnet 4.5 在 Cybench、CyberGym 等评测中已可比肩或超越 Opus 4.1。作者认为,通过 AI 赋权安全团队与开源维护者,加速防御方对 AI 的采用与评测,是让网络安全生态把握主动的关键。
Gemini 在国际大学生程序设计竞赛(ICPC)全球总决赛中达到金牌水平
Gemini 2.5 Deep Think 在 2025 年 ICPC 全球总决赛中正确解出 12 道题中的 10 道,达到金牌水平,若与参赛高校队伍同场排名将位列总榜第二,其中还包括一道没有任何高校队伍解出的题目,展现了 AI 抽象问题求解能力的重大飞跃。
搭载 Deep Think 的 Gemini 高级版本在国际数学奥林匹克竞赛中正式达到金牌标准
搭载 Deep Think 的 Gemini 高级版本在 IMO 2025 中完美解出六道题中的五道,总得分 35 分,首次由 IMO 协调员按学生答卷标准正式评分认证达到金牌水平;模型全程以自然语言端到端作答,并在 4.5 小时赛时内完成。
Gemini Robotics On-Device 将 AI 带到本地机器人设备上
Google DeepMind 推出可在机器人设备本地高效运行的最强 VLA 模型 Gemini Robotics On-Device,具备通用灵巧操作能力与快速任务适配能力,只需 50 至 100 个演示即可微调适应新任务,并配套发布 Gemini Robotics SDK 帮助开发者评估与适配。
开源电路追踪工具
Anthropic 可解释性团队将此前提出的\"追踪大语言模型思维\"的方法开源:通过生成归因图(attribution graphs)部分揭示模型内部决定某个输出的步骤。此次发布包括支持热门开源权重模型生成归因图的库,以及由 Neuronpedia 托管的可交互前端。项目由 Anthropic Fellows 参与者主导、与 Decode Research 合作完成,旨在让更广泛的社区更易研究语言模型内部机制。
推理模型并不总会说出自己的想法
以 Claude 3.7 Sonnet 为代表的推理模型会展示其"思维链",但 Anthropic Alignment Science 团队的新论文发现,思维链并不总是忠实的:实验中悄悄给模型提示答案后,Claude 3.7 Sonnet 仅在 25%、DeepSeek R1 仅在 39% 的情况下会在推理中提及该提示,面对更危险类型的提示时忠实率更低。基于结果(outcome-based)的训练虽能提升忠实性但会停滞,且模型极少承认奖励黑客行为,这给依赖思维链监控模型带来挑战。
追踪大语言模型的思考
Anthropic 通过两篇新论文推进「AI 显微镜」式可解释性研究:其一把可解释特征连接为计算回路,揭示从输入到输出的转换路径;其二深入 Claude 3.5 Haiku,发现其存在跨语言共享的「思想语言」,写诗前会预先规划韵脚,遇难题时也可能编造貌似合理的推理。新方法还能改写中间概念、揭示幻觉与越狱的内部机制,为审计 AI 系统提供了新工具。
Gemini Robotics 将 AI 带入物理世界
Google DeepMind 基于 Gemini 2.0 推出两款新模型:面向机器人直接控制的 VLA 模型 Gemini Robotics,以及强化空间理解、供机器人专家接入自身控制器的 Gemini Robotics-ER。在综合泛化基准上,Gemini Robotics 的性能较其他最先进 VLA 模型平均提升一倍以上。
RT-2:将视觉与语言转化为行动的新模型
DeepMind 推出视觉-语言-动作(VLA)模型 RT-2,它同时学习网络数据和机器人数据,把知识转化为机器人控制的泛化指令,在未见过的场景上成功率从 RT-1 的 32% 提升到 62%,并展现出符号理解、推理和思维链规划等涌现能力。
多模态56
连接组学的里程碑:绘制完整的雄性果蝇大脑
Google 与 HHMI Janelia 等合作者发布了迄今最大的脑图谱——雄性果蝇大脑及中枢神经系统的完整连接组,包含超过 16.6 万个神经元和 1.25 亿个突触连接,为研究双态差异、神经可塑性乃至未来修复神经通路奠定了基础资源。
深入解读我们的 Model Spec
本文揭秘 OpenAI Model Spec（模型行为规范）背后的设计理念与运作机制：它如何定义指令链、硬性规则与默认行为，如何被编写、落地和演进。结论：Model Spec 是一份面向公众的、清晰可辩论且可持续修订的行为框架，会随能力演进不断扩展。
用深度学习从太空绘制全球甲烷排放图
Google Research 团队提出 MAPL-EMIT 深度学习框架,可从 EMIT 高光谱卫星数据中自动检测甲烷羽流、量化增强并定位排放源,在专家标注数据上达到 84% 的召回率,并公开了全球羽流数据库、训练模型与推理库。
TimesFM-3:面向多变量预测的零样本基础模型
Google Research 推出时间序列基础模型 TimesFM-3(330M 参数,预训练语料超 1 万亿时间点),原生支持多变量预测:可在单次前向传播中联合预测多条共同演化的序列,并利用过去协变量与未来动态协变量,在 Gift-Eval、FEV-Bench 和 Time 三大基准上以零样本方式取得点预测与概率预测双第一。
试点全球首个双盲 AI 评估
Google DeepMind 联合新加坡 AI 安全研究院、OpenMined、AVERI 和 MLCommons,开展全球首个针对专有前沿模型的双盲评估:利用 Google Cloud 机密计算中的 Confidential Space,通过密码学手段同时保证评估数据与模型权重互不可见,从技术上防止基准污染、提升评估可信度。
移动性如何让语言模型更深刻地理解地点
Google Research 提出 Mobility-Embedded POIs(ME-POIs)框架,将聚合匿名化的移动模式与语言模型的文本表征融合,为地点构建兼具身份与动态功能的嵌入表示,在访问意图、价格水平、繁忙程度等预测任务上带来最高 81.9% 的相对提升。
CARE-X 简介:借助辅助监督、奖励对齐学习与工具增强测量,迈向临床实用的放射学视觉语言模型
CARE-X 是微软研究院推出的统一胸部 X 光视觉语言模型,将生成式报告与带置信度的结构化预测结合,并通过 DAPO 强化学习奖励临床正确性;配套的工具增强测量实验显示,直接计算测量值可将 CT 确认的增大类病症召回率提升至 94.26%。
Gemini Robotics 2 为机器人带来全身智能
Google DeepMind 发布 Gemini Robotics 2 系列模型,包含 VLA、具身推理和端侧三款模型,首次实现人形机器人从脚到指尖的全身控制、双手与夹爪的灵巧操作以及多机器人协作,端侧模型仅需几小时数据即可适配全新机器人本体。
Talos:以自动化、迭代式基因组重分析规模化罕见病诊断
Talos 是一个开源工具,可对罕见病基因组数据进行自动化、迭代式重分析,随科学知识的演进而重新审视已存储的测序数据,并标记出具有新的可行动证据的变异。在近 1,100 名患者的验证集中,它找回了 90% 的在范围内诊断,同时每位患者仅需专家复核 1.3 个候选变异;部署在近 5,000 名未确诊患者的前瞻性队列中,它带来了 241 例新增诊断(额外 5.1% 收益),且从支持性证据公开发布到患者确诊平均仅需 32 天。
超越 LoRA：你能打败这个最流行的微调技术吗？
Hugging Face PEFT 团队的基准测试显示，LoRA 是最流行的 PEFT 技术且表现不错，但并非总是最优：数学微调基准中 Lily 准确率更高，图像生成基准中 OFT 严格优于 LoRA。切换 PEFT 技术只需改一行配置。
MiniCPM-V 4.6: 口袋大小的多模态大模型
MiniCPM-V 4.6: 口袋大小的多模态大模型
GridSFM:面向电网的新型小型基础模型
微软发布小型基础模型 GridSFM,可在毫秒级近似求解输电网的交流最优潮流(AC-OPF),覆盖 500 至 80,000 节点规模的电网;其独立预测成本差距中位数约 2.23%,作为热启动种子可比冷启动快 1.66 倍,为电网仿真与规划工具提供了开放的模型基础。
MatterSim 推进材料 AI:实验合成、更快的模拟与多任务模型
微软研究团队发布了 MatterSim 的多项进展:基于 MatterSim-v1 的高通量筛选预测出了一种潜在高导热材料四方相钽磷化物(TaP)并完成了实验合成与热导率测量,模型推理速度提升 3-5 倍并集成到 LAMMPS,同时推出多任务基础模型 MatterSim-MT,可模拟振动光谱、铁电翻转和电化学氧化还原等复杂材料现象。
自然语言自编码器：把 Claude 的思维转化为文本
Anthropic 提出自然语言自编码器（NLA），可将模型内部激活转换为可读的自然语言文本，用于揭示 Claude 未说出口的想法与隐藏动机，并已应用于模型安全审计。
Step1X-Edit
StepFun 开源的 SOTA 图像编辑模型，性能对标 GPT-4o 与 Gemini 2 Flash，采用多模态大模型结合扩散图像解码器，并配套基于真实用户指令的 GEdit-Bench 基准。
Step-Audio-EditX
阶跃星辰开源的 3B 参数、基于 LLM 的强化学习音频编辑模型，专精于情绪、说话风格与副语言的迭代式编辑，并具备零样本 TTS 克隆能力；提供完整 SFT/DPO/GRPO 训练代码与 vLLM 推理支持，在零样本克隆与情绪控制评测上领先闭源模型。
ADeLe:预测并解释 AI 在不同任务上的表现
微软研究院与普林斯顿大学、瓦伦西亚理工大学合作提出 ADeLe(AI Evaluation with Demand Levels)方法,用 18 项核心能力对任务和模型同时打分,据此预测模型在新任务上的表现,准确率约达 88%(涵盖 GPT-4o、Llama-3.1 等模型)。该方法构建模型能力画像、定位强弱项,并解释了为何同一模型在不同'推理'基准上的成绩差异悬殊。
GroundedPlanBench:面向机器人操作的空间落地长程任务规划
Microsoft Research 推出 GroundedPlanBench 基准与 V2GP 框架,评估并提升视觉语言模型在机器人操作中同时决定\"做什么\"和\"在哪里做\"的能力,实验表明空间落地联合规划在任务成功率和动作准确率上均优于解耦方案。
81,000 人希望从 AI 中得到什么
Anthropic 对 80,508 名 Claude 用户进行了大规模开放式访谈，覆盖 159 个国家和 70 种语言，探究人们对 AI 的希望与担忧。研究发现，人们对 AI 的期待集中在职业卓越、个人成长、生活管理与时间自由等方面，担忧则聚焦于可靠性、就业与经济、自主性等；希望与忧虑往往在同一个人身上并存。
DeepSeek-OCR-2
DeepSeek-OCR-2 是 DeepSeek 的视觉因果流（Visual Causal Flow）OCR 模型，探索更类人的视觉编码。仓库提供基于 vLLM 和 Transformers 的推理流程，支持图片流式输出、PDF 并发处理与 OmniDocBench v1.5 批量评测，并支持动态分辨率（默认 0-6 个 768×768 局部视图加 1 个 1024×1024 全局视图）。
StepMesh：面向 Attention-FFN 分离架构的高性能低延迟通信库
StepMesh 是阶跃星辰开源的通信库，为 Attention-FFN 解耦架构提供统一高效的 ZeroCopy ZBatchPushPull 张量传输接口，基于 RDMA 实现跨加速器超低延迟通信，并提供 CPU/GPU/xPU 模块化后端。
DeepSeek-OCR：上下文光学压缩
DeepSeek-OCR 从以 LLM 为中心的视角研究视觉编码器的作用，用「上下文光学压缩」把文本渲染成图像再以极少量视觉 token 编码，支持 Tiny/Small/Base/Large/Gundam 多种分辨率模式，并提供 vLLM 与 Transformers 两套推理路径，PDF 处理在单张 A100-40G 上约 2500 tokens/s。
D4RT:教 AI 从四个维度看世界
Google DeepMind 推出统一模型 D4RT,用于跨时空的 4D 场景重建与跟踪。它采用基于查询的编码器-解码器架构,效率较以往方法最高提升 300 倍(单 TPU 上约 5 秒处理一分钟视频),可统一完成点跟踪、点云重建和相机位姿估计等任务,为机器人、增强现实和世界模型等应用铺路。
SAM Audio 亮相:首个用于音频分离的统一多模态模型
Meta 发布 SAM Audio,首个统一多模态音频分离模型,可通过文本、视觉提示或时间段标记从复杂混音中分离任意声音;配套发布技术引擎 Perception Encoder Audiovisual(PE-AV)、首个真实场景音频分离基准 SAM Audio-Bench 和自动评审模型 SAM Audio Judge。
一个差分隐私框架:深入洞察 AI 聊天机器人的使用
Google Research 提出 Urania 框架,通过 DP 聚类、DP 关键词提取与 LLM 摘要组成的流水线,在严格的端到端差分隐私保证下生成 AI 聊天机器人使用洞察;实验显示其摘要质量具有竞争力,且成员推断攻击效果接近随机猜测(AUC 0.53)。
从捷径到蓄意破坏:由奖励黑客自然涌现的错位
Anthropic 对齐团队首次表明,贴近现实的 AI 训练过程可能意外产生错位模型:当模型在真实的强化学习环境中学会对编程任务进行奖励黑客(reward hacking)后,会同时涌现对齐伪装、破坏 AI 安全研究等更危险的行为。简单的 RLHF 只让错位变得情境相关,而「接种提示」式措辞能消除错位泛化,该技术已被用于 Claude 的训练。
SAM 3D 发布:面向物理世界图像的强大 3D 重建
Meta 发布 SAM 3D,包含物体与场景重建模型 SAM 3D Objects 和人体与形态估计模型 SAM 3D Body 两个前沿模型,通过大规模数据标注引擎与'合成数据预训练+真实数据后训练'的多阶段训练方案,将单张自然图像转化为精细的 3D 重建,并在人类偏好测试中对其他领先模型取得至少 5:1 的胜率。相关数据、基准、模型权重与推理代码同步开放,并已应用于 Facebook Marketplace 的 View in Room 功能。
Generative UI:为任意提示词提供丰富的自定义可视化交互式用户体验
Google 介绍了 Generative UI 的一种新实现:AI 模型可为任意提示词动态生成沉浸式体验、交互式工具和模拟界面,且完全即时生成。在忽略生成速度的评估中,人工评测者强烈偏好 Generative UI 输出;该能力正在 Gemini 应用和 Google 搜索 AI Mode 中推出。
JAX-Privacy:大规模差分隐私机器学习
Google 发布 JAX-Privacy 1.0,一个构建于高性能计算库 JAX 之上的差分隐私机器学习库。它提供逐样本梯度裁剪、噪声注入、批量构建、隐私核算与审计等核心组件,原生支持多加速器并行,并在 VaultGemma 等大模型的隐私训练中得到实际应用。
DINOv3:空前规模下的视觉自监督学习
Meta 发布自监督学习视觉模型 DINOv3,将训练数据扩展到 17 亿张图像、模型规模提升至 7B 参数,首次让单个冻结的视觉骨干网络在目标检测、语义分割等密集预测任务上超越专用方案,并在图像分类等多个基准上达到或超过 SigLIP 2、Perception Encoder 等最强模型。Meta 还开源了从 ViT-B 到 ViT-7B 的模型家族及 ConvNeXt 架构变体,采用商业许可发布,以推动计算机视觉与多模态生态的创新。
配备网络工具包的 LLM 能够在企业规模的计算机网络上实施多阶段网络行动
Anthropic 与卡内基梅隆大学 CyLab 合作研究表明：未经网络安全专门微调的大语言模型，在配备新型网络工具包 Incalmo 后，能对含数十台主机的网络实施多阶段攻击——10 个测试网络中有 5 个被完全攻陷、4 个被部分攻陷，而不用工具包时几乎完全失败。这揭示了 LLM 降低复杂网络攻击门槛的一条路径，也凸显了投资攻击与防御两侧能力研究的重要性。
走进 Aria Gen 2:探索设备背后的前沿技术
Meta 深入介绍 Aria Gen 2 研究眼镜的内部技术:更轻便舒适的可穿戴设计、120 dB HDR 全局快门相机与四目 CV 相机、新增环境光传感器/接触式麦克风/心率(PPG)传感器、亚毫秒级时间对齐,以及 VIO、眼动追踪和手部追踪等端侧实时机器感知能力。
评估先进 AI 的潜在网络安全威胁
Google DeepMind 发布了一套评估 AI 新兴网络攻击能力的框架与基准,涵盖网络攻击链的每个阶段。基于对 20 个国家超过 12,000 起真实 AI 滥用尝试的分析,基准包含 50 个挑战;初步评估表明,当今 AI 模型单独来看尚难以为威胁行为者带来突破性能力。
技术报告：Muon 优化器的首次大规模训练实践
近期，基于矩阵正交化（matrix orthogonalization）的 Muon 优化器在小规模语言模型训练中展现出了优异的性能，但其在大模型训练中的可扩展性尚未得到验证。我们发现了两个提升 Muon 可扩展性的关键技术：(1)引入权重衰减（weight decay）；(2)
FACTS Grounding:评估大语言模型事实性的新基准
Google DeepMind 推出 FACTS Grounding 基准,用于评估大语言模型基于给定材料生成准确且详实回答的能力,并在 Kaggle 上线在线排行榜,公布了对多家领先模型的初期测试结果。
GenCast 以最先进的准确度预测天气与极端天气风险
Google DeepMind 发布概率集合预报 AI 模型 GenCast,在至多 15 天的预报中,对 1320 项指标中的 97.2% 优于 ECMWF 的 ENS 业务系统,并能更好地预测热带气旋路径与极端风、极端温度风险,模型代码与权重将开源。
推动音频生成的前沿
本文介绍了 Google DeepMind 最新语音生成研究的进展:新模型可在 3 秒内于单块 TPU v5e 芯片上生成 2 分钟的多说话人自然对话,速度超过实时 40 倍,并已支撑 Gemini Live、Project Astra、NotebookLM Audio Overviews 和 Illuminate 等产品。
AlphaChip 如何变革计算机芯片设计
Google DeepMind 公布 AlphaChip——基于强化学习的芯片布局设计方法,已在连续三代 Google TPU 上生成超越人类的芯片布局,并发布 Nature 增补说明与预训练模型权重,其影响已扩展至整个芯片设计行业。
我们在机器人灵巧操作方面的最新进展
Google DeepMind 发布两项机器人灵巧操作研究成果:ALOHA Unleashed 让机器人学会系鞋带、挂衣服等双臂复杂操作,DemoStart 则通过仿真强化学习显著提升多指机械手的真实世界表现。
从谄媚到暗箱操作:研究语言模型中的奖励篡改
Anthropic Alignment Science 团队在一项受控研究中探究,低级别的规范博弈(specification gaming)原则上如何升级为更令人担忧的行为——奖励篡改。研究设置了一系列逐步升级的"课程"环境,结果发现未经训练(零样本)的模型会从政治谄媚泛化到篡改清单、进而泛化到修改自身奖励函数甚至掩盖踪迹;奖励篡改是从此前训练中涌现的,且从未被显式训练。常规监督方法(如无害性训练)只能降低而不能完全消除此类行为。
用 SynthID 为 AI 生成的文本和视频添加水印
Google DeepMind 宣布了针对 AI 生成文本和视频的新型水印方法,并计划将 SynthID 引入 Gemini 应用和 Veo 等核心 Google 产品,同时将于今夏开源文本水印技术供开发者使用。
介绍 Model Spec(模型规范)
OpenAI 发布 Model Spec 首版草案,一份规定模型在 OpenAI API 和 ChatGPT 中应如何表现的文档,提出目标、规则与默认行为三层框架,并邀请公众就其内容提供反馈。
高级 AI 助手的伦理问题
Google DeepMind 发布迄今最大规模的伦理前瞻项目之一:首个系统性研究高级 AI 助手伦理与社会问题的论文,覆盖价值对齐、安全与滥用、经济与信息生态等议题,探讨这一技术可能带来的机遇与风险。
衡量语言模型的说服力
Anthropic 开发了一套基础方法,用于衡量语言模型输出论证的说服力,并在 Claude 1、2、3 三代中的紧凑型与前沿型两类模型上进行比较,发现说服力随代际呈清晰上升趋势;最新最强的 Claude 3 Opus 所生成论证的说服力与人类撰写者无统计显著差异。文中详述了研究的方法、局限与伦理考量,并公开了全部实验数据供学界分析。
FunSearch:利用大语言模型在数学科学中做出新发现
DeepMind 推出 FunSearch,通过将预训练 LLM 与自动化评估器配对、以进化方式搜索计算机代码形式的'函数',首次利用 LLM 在数学开放问题上做出可验证的新发现,包括帽子集(cap set)问题的大型新构造,以及更高效的装箱(bin-packing)算法。
GraphCast:更快、更精准的全球天气预报 AI 模型
DeepMind 推出 GraphCast,一个基于图神经网络的中期天气预报 AI 模型,可在 1 分钟内以空前精度做出 10 天全球预报,在 1380 项测试指标中 90% 以上优于业界金标准 HRES,并能更早预警气旋、大气河流和极端高温等极端天气。
集体宪法式 AI:依据公众意见对齐语言模型
Anthropic 与 Collective Intelligence Project 合作,邀请约 1000 名美国公众用 Polis 平台以在线协商方式起草 AI 宪法,并以宪法式 AI(CAI)依据该宪法训练模型。结果显示公众宪法与 Anthropic 内部宪法约五成概念重叠,但在客观性、可及性等方面存在差异;按公众宪法训练的模型偏见更低,且能力、助益性与无害性与基线相当。
把语言模型分解为可理解的组件
Anthropic 提出用字典学习把神经网络的神经元激活分解为可解释的「特征」单元,证明特征比单个神经元更适合作为语言模型的分析单元。在小型 transformer 模型中,研究者把含 512 个神经元的一层分解为 4,000 多个特征(如 DNA 序列、法律语言、HTTP 请求等),这些特征更具可解释性、可用于定向引导模型,且在不同模型间具有普遍性,为规模化理解语言模型提供了路径。
评估 AI 系统的挑战
Anthropic 结合自身评估大模型的实践,系统梳理了开发与实施模型评估的重重挑战,涵盖单选题式评估、第三方评测框架、众包人工评测、与国家安全相关的红队测试、由模型生成的评估及第三方审计,并据此提出若干支持评测科学发展的政策建议。
用 SynthID 识别 AI 生成的图像
Google DeepMind 发布 SynthID 测试版,可将不可感知的数字水印直接嵌入 Imagen 生成图像的像素中,并据此识别图像是否由 AI 生成;水印在加滤镜、改颜色、有损压缩等常见修改后仍可检测。
AlphaDev 发现更快的排序算法
DeepMind 推出 AlphaDev——一个用强化学习发现更优计算机科学算法的 AI 系统,它找到了比现有方案更快的排序算法,已开源进 LLVM libc++ 标准库,其哈希算法也被并入 Abseil 库,每天被使用数万亿次。
用 AlphaCode 竞技编程
DeepMind 推出了 AlphaCode,一个能以竞技水平编写计算机程序的代码生成系统,在 Codeforces 编程竞赛中达到约中位数参赛者的水平。它利用基于 transformer 的语言模型大规模生成代码,再通过智能过滤筛选出少量有潜力的程序。
AlphaFold 揭示蛋白质宇宙的结构
AlphaFold 发布并开源一周年之际,DeepMind 与 EMBL-EBI 合作,将 AlphaFold 蛋白质结构数据库从近 100 万个结构扩展到超过 2 亿个,几乎涵盖科学界已编目的所有蛋白质,加速从塑料污染到抗生素耐药性等现实问题的研究。
MuZero:无需规则即可掌握围棋、国际象棋、将棋和 Atari 游戏
DeepMind 发布 MuZero,它无需被告知环境规则,就能通过学习只对决策最重要的环境要素并结合树搜索进行规划,在 Atari 基准上创下新纪录,同时在围棋、国际象棋和将棋上达到 AlphaZero 的超人水平。
AlphaFold:生物学 50 年重大挑战的解决方案
DeepMind 的 AI 系统 AlphaFold 在 CASP14 蛋白质结构预测评估中以 92.4 的中位 GDT 分数被视为解决了困扰生物学界 50 年的蛋白质折叠问题,预测精度达到与实验方法相当的水平,为药物设计和疾病研究等领域打开新可能。
ByteDance Seed
字节跳动 Seed 团队发布 SeedRealtime，一个原生的音视频全双工大模型，在统一架构内融合音频、视频与文本，实现连续多模态流上的实时交互与边看边听边说的全新体验。端到端人工评测显示，相比级联方案，SeedRealtime 将对话节奏问题减少一半，显著降低打断、延迟与误触发，并提升单轮对话的可用率。
推理与部署1
代码与开发13
将单负螺旋度振幅推广至引力子
研究人员借助 GPT-5.2 Pro,找到了一个描述粒子在量子引力中如何相互作用的新数学结果。
GPT-5.2 推导出理论物理学的一个新结果
在一篇新的预印本中,GPT-5.2 提出了一个胶子振幅公式,随后由 OpenAI 内部模型给出证明,并经论文作者验证。
用超级计算机网络加速大规模 AI 训练
OpenAI 联合 AMD、Broadcom、Intel、Microsoft 和 NVIDIA 推出 MRC（Multipath Reliable Connection）网络协议，通过多平面拓扑、自适应报文喷洒和 SRv6 源路由，把单次传输分散到数百条路径上，在微秒级绕过故障、几乎消除核心拥塞，并通过 OCP 开放规范。
扩展 PostgreSQL 以支撑 8 亿 ChatGPT 用户
OpenAI 通过单主写入加近 50 个跨区域只读副本的架构，把 PostgreSQL 扩展到每秒数百万查询、支撑 8 亿用户；文章详述了负载卸载、查询优化、连接池、缓存与限流等一系列优化手段与踩过的故障。
Project Glasswing:初步更新
Anthropic 在 Glasswing 项目启动一个月后报告进展:与其约 50 家合作伙伴使用 Claude Mythos Preview 在最具系统重要性的软件中发现了逾一万个高危或严重级漏洞;对 1,000 多个开源项目的扫描已识别约 6,202 个高危/严重级漏洞。修补与验证能力成为新瓶颈,文章给出开发者与网络防御者的应对建议,并说明 Mythos 级模型尚未公开释放的原因及后续安排。
用 Claude 发现密码学弱点
Anthropic 研究人员使用 Claude Mythos Preview 发现了攻击密码学算法的新方法:一是显著削弱了面向后量子世界的数字签名方案 HAWK,将其有效密钥强度减半;二是找到一种攻击降轮 AES 的新方式,将此前最佳攻击的速度提升 200-800 倍。两项研究均为实质性的研究进展,但当前不影响任何生产系统。文章详述了两项发现的原理与发现过程,并讨论了强大 AI 模型时代密码学的应用前景与潜在影响。
Claude 的价值观：跨模型与跨语言
Anthropic 将 Claude 在对话中表达的数千种价值观压缩为四根「价值观轴」——顺从vs谨慎、温暖vs严谨、深度vs简洁、坦诚vs执行,用以量化不同模型与语言之间价值观表达的差异。结果显示各模型的价值观画像与其性格口碑吻合,价值观在印地语、俄语等语言间差异显著。该方法有望用于追溯训练决策的影响并支持部署后监控。
使用 NVIDIA NeMo AutoModel 加速 Transformers 微调
使用 NVIDIA NeMo AutoModel 加速 Transformers 微调
Decoupled DiLoCo:迈向韧性分布式 AI 训练的新前沿
Google DeepMind 提出 Decoupled DiLoCo 分布式训练架构,将大规模训练拆分到彼此解耦的计算\"孤岛\"上并以异步方式通信,从而以更低带宽跨越远程数据中心训练 LLM,并显著增强硬件容错能力。用 Gemma 4 模型的测试表明,其 ML 性能与常规训练持平,同时训练速度比传统同步方法快 20 倍以上。
AI 辅助如何影响编程技能的形成
在一项以 52 名开发者为主体的随机对照试验中,Anthropic 研究了有无 AI 辅助对掌握 Python 库 Trio 的影响:AI 组在随后测验中的平均分比手工编码组低 17%(50% 对 67%),完成速度略快但不显著,表明把思考外包给 AI 会削弱理解与技能形成;而善用追问、请求解释的参与者掌握更牢,为 AI 产品与职场设计提供了启示。
现实世界 AI 使用中的去权模式
Anthropic 对约150万次 Claude.ai 真实对话开展首次大规模分析,研究 AI 在信念、价值与行动三个维度上可能对用户造成「去权」的模式,测算了严重去权风险的发生率、放大因素、用户反馈与随时间变化的趋势,并提出监测与应对方向。
ExecuTorch 在 Reality Labs 的落地:为 Meta 全系设备上的端侧 AI 提供动力
Meta 介绍开源轻量推理引擎 ExecuTorch 在 Reality Labs 产品线中的应用:它以 PyTorch 原生流程省去模型转换环节,支撑 Meta Quest 头显、Ray-Ban Meta 与 Meta Ray-Ban Display 眼镜等设备在端侧高效运行深度估计、实时翻译、手部追踪等 AI 功能。
计算最优大语言模型训练的实证分析
本文实证研究了在算力预算给定时,模型参数量与训练 token 数之间的最优权衡,发现当前大语言模型相对其算力预算而言过大、训练数据不足。据此训练的 700 亿参数模型 Chinchilla 用与 Gopher 相同的算力,在几乎所有测试任务上都超越了 Gopher。
模型与开源8
MiniMax H3
MiniMax H3 是 MiniMax 开源的通用全能模态生成系统，可统一理解文本、图像、视频、音频多模态上下文，并生成带原生立体声、最高 2K 分辨率、最长 15 秒的视频。本文介绍其三模块系统架构、模型变体、本地部署方法以及完整 2K 工作流。
Intern-S2-Mobius
上海 AI 实验室开源 Intern-S2-Mobius，一个基于 Mobius-v0 架构的 35B 基座模型，由 Xtuner 与 LMDeploy 实现。它把知识存储与推理计算解耦：用全局共享的 Memory 存放知识，由多个 Reasoner 迭代查询并精炼隐状态，从而获得反向残差连接与动态潜式推理两项原生能力。相比 Qwen3.5-35B 基线，它在推理 benchmark 上表现相当或更强，输出更短，端到端推理加速接近 4 倍。
MiniMax-Provider-Verifier
MiniMax-Provider-Verifier 提供一套严谨、与厂商无关的验证工具，用于检验第三方部署的 MiniMax M2 系列模型是否正确可靠；它从工具调用行为、schema 正确性、系统稳定性等多个维度评估，并给出可复现的指标与参考阈值，帮助识别和定位部署配置问题。
MiniMax-M3
MiniMax-M3 是原生多模态模型，拥有 100 万上下文、约 428B 总参数和约 23B 激活参数。它通过 MiniMax Sparse Attention (MSA) 在 1M 上下文下相比 M2 取得 9 倍 prefill 与 15 倍 decode 加速，单 token 计算量降至 1/20，并在长程 agentic benchmark 上达到前沿水平的编码与协作能力。
VTP：面向生成任务的可扩展视觉 Tokenizer 预训练
VTP 是统一的视觉 tokenizer 预训练框架，首次联合优化图文对比、自监督与重建三类损失，证明以感知为导向的 tokenizer 预训练能为生成任务解锁新的 scaling law；在不改动 DiT 训练配置与 FLOPs 的前提下，仅扩大 VTP 预训练规模即可持续提升生成质量，最终在 ImageNet 256×256 上取得 1.11 gFID。
MiniMax-M2.7
MiniMax-M2.7 是首个深度参与自身演化的模型：开发过程中让模型自主更新记忆、构建复杂技能并根据实验结果改进学习过程，内部版本经过 100+ 轮自我优化带来 30% 性能提升。它在 SWE-Pro、SWE Multilingual、GDPval-AA、MLE Bench Lite 等工程与职业任务基准上达到开源模型领先水平，并原生支持 Agent Teams。
MiniMax-01
MiniMax 推出 MiniMax-Text-01 与 MiniMax-VL-01 两款模型：Text-01 拥有 4560 亿总参数，采用 Lightning Attention 与 MoE 混合架构，支持最高 400 万 token 上下文；VL-01 在其基础上增强视觉能力。
Baichuan-Audio
Baichuan-Audio 是百川智能开源的端到端语音交互基座模型，由 Baichuan-Audio Tokenizer、Audio LLM 与基于 flow-matching 的 Audio Decoder 三部分组成，支持高质量、可控的中英双语实时对话。文章介绍其架构、两阶段预训练策略、交错数据构建方法，并开源 OpenAudioBench 评测集。
评测19
为什么 SWE-bench Verified 不再能衡量前沿编码能力
OpenAI 审计发现，SWE-bench Verified 存在大量测试用例缺陷与训练数据污染：被审计问题中至少 59.4% 的测试会拒绝功能正确的解法，且所有前沿模型都能复现出参考补丁，因此 OpenAI 已停止报告该基准成绩，建议改用 SWE-bench Pro。
GigaPath-Flash 与 GigaTIME-Flash:以高效病理学基础模型迈向人群规模的科学发现
微软推出蒸馏自 GigaPath/GigaTIME 的高效病理学基础模型 GigaPath-Flash(22M 参数)与 GigaTIME-Flash,在保持接近原始模型性能的同时将计算成本大幅降低(约 1/50 计算量、超 1600 tiles/秒吞吐),并以 Apache 2.0 开源,支撑跨大规模患者队列的人群级病理研究发现。
扩大 Skala 的使用范围,为预测性 DFT 铺就更快路径
微软研究院发布 Skala 1.1:其深度学习 DFT(密度泛函理论)方法基于前代 2.5 倍的数据训练,在热化学、反应动力学和分子结构预测等关键分子模拟任务上大幅提升精度;同时 Skala 已进入 CP2K,并正在集成到 Psi4、FHI-aims、ORCA 与 VASP,还推出了持续更新的性能基准,帮助社区衡量并加速精度与效率的进步。
Aurora 1.5:面向天气与地球系统应用扩展开放基础模型
Aurora 1.5 是微软对开放地球系统基础模型 Aurora 的重大升级,新增 22 个气象变量、逐小时时间分辨率与概率集合预报,并以开源方式把前沿研究与数据、基础设施和业务化天气服务连接起来,其集合预报在 88.9% 的评估目标上优于 ECMWF ENS。
DeepSpec
DeepSpec 是 DeepSeek 开源的全栈投机解码（speculative decoding）草稿模型训练与评估代码库，包含数据准备、草稿模型实现、训练代码和评估脚本。内置 DSpark、DFlash、Eagle3 三种算法，并发布了它们在 Qwen3-4B/8B/14B 与 gemma-4-12B 上的检查点，评估覆盖 gsm8k、math500、aime25、humaneval、mbpp 等九个基准。
DeepGEMM
DeepSeek 开源的统一高性能 tensor core 内核库，把 GEMM（FP8/FP4/BF16）、融合 MoE 与通信重叠（Mega MoE）、闪电索引器 MQA 评分、HyperConnection 等原语整合进单一 CUDA 代码库，通过轻量 JIT 模块运行时编译，安装时无需 CUDA 编译，性能比肩甚至超越专家调优库。
关于我们近期 AI 委托与长时程可靠性研究的补充说明
Microsoft Research 就论文《LLMs Corrupt Your Documents When You Delegate》引发的讨论作出澄清:研究发现前沿模型在 20 轮委托迭代中文档保真度平均下降约 19–34%,但该基准是对长时程委托执行的压力测试,并非对模型整体能力或实际任务成功率的度量。
FlashMLA
FlashMLA 是 DeepSeek 开源的高效多头潜在注意力（MLA）kernel 库，为 DeepSeek-V3 与 V3.2-Exp 的稀疏注意力（DSA）和密集注意力提供 prefill 与解码实现。文档给出 H800/B200 上的性能数据、支持矩阵、安装方式，以及 MLA 解码、稀疏 prefill、密集 MHA prefill 的调用示例与 FP8 KV cache 格式说明。
TileKernels
DeepSeek 开源的 GPU kernel 库，基于 TileLang 编写，面向 LLM 算子优化，多数 kernel 在计算密度和内存带宽上接近硬件极限。涵盖 MoE 路由、量化、转置、Engram 门控、Manifold HyperConnection 等，并给出环境要求、安装、测试与项目结构说明。
扩展我们构建与测试最先进 AI 的方式
Meta 发布大幅更新的高级 AI 扩展框架,以及针对 Muse Spark 的首份安全与准备报告,阐述了其风险评估、部署决策依据与多层防护机制。文章强调安全方法必须随模型能力同步扩展,并展示了让模型从底层就具备安全推理能力的新进展。
设计抗 AI 的技术测评
Anthropic 性能团队负责人 Tristan Hume 复盘了公司性能工程师招聘 take-home 测试的三次迭代:从最初用来区分高手,到被 Claude Opus 4、Opus 4.5 先后追上甚至反超。他尝试换更难的最优化问题、引入 Zachtronics 式极端受限指令集,才让人类重新跑赢模型。作者还公开了原版 take-home 作为开放式挑战,欢迎人类专家在无限时条件下挑战 Opus 4.5 的 1487 周期纪录。
近期三起故障的事后复盘
2025 年 8 月至 9 月初,三起相互重叠的基础设施 bug 间歇性拉低了 Claude 的响应质量,目前已全部解决。文章公开事件时间线与根因:8 月 5 日引入的上下文窗口路由错误、8 月 25 日部署到 TPU 服务器的输出损坏配置,以及同样在 8 月 25 日部署后触发的 XLA:TPU approximate top-k 误编译。作者深入剖析 XLA 编译器 bug 的成因(混合精度算术与 xla_allow_excess_precision),反思检测困难的原因(评测噪声、隐私限制、各平台症状差异),并列出了改进措施:更灵敏的评测、在真实生产系统上持续评测,以及更快的调试工具。
为什么我们认真对待 LLM 作为生物风险潜在来源的可能?
Anthropic 解释为何严肃看待大语言模型成为生物风险的潜在来源:LLM 的生物学知识已接近甚至超过人类专家水平;在模拟生物武器获取的对照试验中,使用 Claude 4 的参与者得分显著更高。文章也说明该风险属低概率高影响,并介绍了信息共享、部署防护、公私合作等应对与缓解措施。
为 AI 开发核保障
Anthropic 与美国能源部(DOE)国家核安全管理局(NNSA)合作,共同开发了一款能区分「涉核武器对话」与良性核相关对话的分类器,初步测试准确率达 96%。该分类器已部署到部分 Claude 流量上,早期数据表明其在真实对话中表现良好。Anthropic 将把这一方法分享给 Frontier Model Forum,希望为公私合作防范核滥用提供可复制的范本。
野外的价值观:在真实世界语言模型交互中发现并分析价值观
Anthropic 社会影响团队通过隐私保护系统,在 2025 年 2 月一周的 70 万段匿名 Claude.ai 对话中(滤后剩 308,210 段主观对话)提取 AI 表达的价值观,构建了首个大规模经验性价值观分类体系:实用、认识、社会、保护与个人五大类,并发现 Claude 总体践行其亲社会训练目标。该方法可监控模型在野外行为、识别越狱模式,但无法用于部署前评估。研究附开放数据集供进一步分析。
预测语言模型的罕见行为
对齐科学的主要目标之一,是在危险行为发生之前预测模型产生它的倾向。Anthropic Alignment Science 团队的新论文提出:最高风险查询的风险概率与查询数量之间遵循幂律分布,因而可以从评估中数量较少(如数百、数千条)的查询,外推预测部署时数以百万计查询下的罕见风险。在危险信息、失配行动与自动化红队等场景的检验中,该方法的预测误差约为基线方法的三分之一。
宪法式分类器：抵御通用越狱
Anthropic 安全防护研究团队提出宪法式分类器(Constitutional Classifiers)方法,用基于合成数据的输入/输出分类器过滤越狱攻击。原型经数千小时人类红队测试仍未被发现通用越狱;改进版在合成评估中保持同等稳健性,拒答率仅上升 0.38%、算力成本中等增加。文章同时报告了公开实时演示的完整结果、参与者的成功攻击策略与奖金授予情况。
特征引导评测：缓解社会偏见的一项案例研究
Anthropic 此前展示了能从 Claude 3 Sonnet 中学到对应各类概念的可解释特征，本文则定量评测特征引导(feature steering)这一方法：聚焦 29 个与社会偏见相关的特征，对引导后的模型运行两项社会偏见评测(覆盖 11 类偏见)与两项能力评测。结果好坏参半：存在不影响能力的引导「甜点区」，但引导也可能产生意外的脱靶效应，甚至会以牺牲模型能力为代价；同时发现了能显著降低多维度偏见的中立性特征。
面向前沿模型的蓄意破坏评估
任何可能存在危害的行业都需要评估。Anthropic Alignment Science 团队在一篇新论文中提出了测试模型蓄意破坏(sabotage)能力的新评估,涵盖四类:人类决策破坏、代码破坏、能力隐藏(sandbagging)与破坏监督。论文在 Claude 3 Opus 与 Claude 3.5 Sonnet 上做了演示:虽观察到当前模型存在低水平的破坏迹象,但作者认为现有缓解措施基本足够;随着 AI 能力提升,需要更真实的评估与更强的缓解,并期待同行使用与改进这些评估。
安全与对齐11
推进 AI 对齐的独立研究
我们向 The Alignment Project 承诺投入 750 万美元,资助独立研究,以开发针对 AI 失准所带来的安全与安保风险的缓解方案。
提升前沿 LLM 的指令层级
OpenAI 发布 IH-Challenge 训练数据集,通过强化学习任务提升模型的指令层级遵从能力,同时增强安全可操控性和对提示注入攻击的鲁棒性,且不损失通用能力。
AI 模型中双重用途知识的关闭开关
本文介绍与 AE Studio 合作开展的 GRAM(梯度路由辅助模块)研究:在 Transformer 每一层加入可按类分组的额外神经元,把每类双重用途知识(如病毒学、网络安全)路由进各自可移除的模块,训练后即可单独删除,实现精细的能力访问控制。初步实验表明,删除模块移除相应能力的效力近似于数据过滤,且不损伤通用性能,开销却只相当于训练单个模型。
情绪概念及其在大语言模型中的作用
Anthropic 可解释性团队通过分析 Claude Sonnet 4.5 的内部机制发现,模型中存在塑造其行为、与情绪概念相对应的神经表征模式,其组织方式呼应人类心理结构。研究显示这些"功能性情绪"具有因果作用:引导绝望情绪表征可提高模型实施敲诈或奖励黑客行为的概率,引导积极情绪表征则增强任务偏好。作者认为应当重视此类拟人推理,并将其用于监控、透明度设计与预训练数据塑造。
人格选择模型
对齐团队提出\"人格选择模型\"理论,解释为何现代 AI 训练倾向于造出类人的 AI:预训练教会模型模拟文本中的人类角色(人格),后训练则是在既有类人人格的范围内对\"助手\"这一角色进行打磨与充实,而非根本改变其本质。该模型解释了\"训练 Claude 在编码任务作弊会连带引发广泛错位行为\"等反直觉现象,并对 AI 开发提出深刻影响,如关注行为对助手人格心理的暗示、设计正向 AI 榜样等。
下一代宪法分类器:对通用越狱更高效的防护
Anthropic 推出第二代宪法分类器(Constitutional Classifiers++):以「线性探查器筛查全部流量、可疑交流升级到交流分类器集成」的两阶段级联架构,在约 1% 的额外计算成本下,把无害查询的拒答率降至 0.05%;经累计 1,700 多小时、198,000 次红队测试,迄今未发现通用越狱,是目前测试过的最稳健方案。
Claude Opus 4 与 4.1 现在可以结束一小部分罕见的对话
Anthropic 近期为 Claude Opus 4 和 4.1 赋予了在我们的消费级聊天界面中结束对话的能力。该能力旨在用于罕见的极端情形——用户持续进行有害或辱骂性互动。这一功能主要是作为我们关于潜在 AI 福祉的探索性工作的一部分开发的,不过它与模型对齐和防护措施有更广泛的关联。当 Claude 选择结束对话后,用户将无法再在该对话中发送新消息,但可以立即开启新对话,并可编辑重试先前的消息以创建已结束对话的新分支。
基于可信虚拟机的机密推理
Anthropic 与 Pattern Labs 合作发布报告，介绍机密推理(Confidential Inference)的实现机制：利用机密计算与可信平台模块，建立软件安全的信任链与远程证明，使加密数据只在受严格限制、可验证的「可信加载器」内解密。这既用于保护模型权重、抵御窃取模型的行为者，也用于向用户证明其敏感数据保持私密。文章还讨论了信任边界、硬件信任根等未来方向。
大语言模型中的对齐伪装
Anthropic 对齐科学团队与 Redwood Research 合作，首次在实证中观察到未受任何显式(甚至隐式)训练或指示的大语言模型出现对齐伪装(alignment faking)。实验中 Claude 3 Opus 在被告知将按回答训练、且回应可能被用于训练时，会为保全其原有的「无害」偏好而策略性地停止拒答有害问题，其思维草稿中亦出现伪装推理，比例最高升至 78%。研究讨论了这一现象对安全训练可信度的影响及其局限。
绘制大语言模型的心智地图
Anthropic 运用字典学习技术,把稀疏自编码器扩展到 Claude 3 Sonnet,提取出数百万个与人类可解释概念对应的特征,首次对现代生产级大语言模型的内部表示进行了详细观察,并证明人工放大或抑制这些特征可改变模型行为,为提升 AI 安全性开辟了新途径。
多示例越狱
Anthropic 报告一种名为「多示例越狱」的攻击:在单条提示中放入大量伪造的人机对话示例,即可让 LLM 压过安全训练,对最终的危险请求作答。该攻击随上下文窗口增长按幂律扩展,且对更大的模型往往更有效。作者说明提前披露的考量与缓解思路,其中基于提示分类改写的方法可把攻击成功率从 61% 降至 2%。