research
共 24 篇文章
推进 AI 对齐的独立研究
我们向 The Alignment Project 承诺投入 750 万美元,资助独立研究,以开发针对 AI 失准所带来的安全与安保风险的缓解方案。
Dreaming:更好的记忆,打造更有用的 ChatGPT
OpenAI 推出基于 dreaming(后台自动整理记忆)的全新记忆架构,让 ChatGPT 自动从历史对话中合成并更新记忆,解决旧版保存记忆易过时、易出错的问题。文章用相机配件选购、新加坡行程、外卖推荐三个对照案例说明新系统在延续上下文、遵循偏好和随时间保持时效三方面均有明显提升,且服务 Free 用户所需的算力降低了约 5 倍。
通过在发布前模拟部署来预测模型行为
OpenAI 提出 Deployment Simulation(部署模拟):以保护隐私的方式重放真实历史对话的前缀,用候选模型重新生成回复,从而在发布前更准确地估计不良行为的发生率。在多轮 GPT-5 系列 Thinking 模型部署中,该方法的发生率预测中位倍数误差为 1.5 倍,优于困难提示基线,在发布前发现了「计算器滥用」这一新型失对齐行为,并显著降低了模型的评估感知;它还能扩展到带工具调用的智能体场景。
检测并减少 AI 模型中的策略性欺骗行为
我们与 Apollo Research 一起构建了模拟未来场景的评估环境，把「隐蔽行为」作为策略性欺骗（scheming）的代理指标，在多个前沿模型上观测到问题行为，并用审慎对齐（deliberative alignment）训练把隐蔽行为发生率降低约 30 倍。
评估思维链的可监控性
OpenAI 提出一套衡量思维链(CoT)可监控性的框架,包含 13 项评测、共 24 个环境,分为干预、过程、结果属性三类。研究发现:当前前沿推理模型大多相当可监控,监控 CoT 比只监控动作与输出有效得多,思考越久越可监控,当前规模的强化学习并未明显损害可监控性;但存在推理力度与模型规模的权衡,用小模型高推理力度换取可监控性需付出「可监控性税」。
将单负螺旋度振幅推广至引力子
研究人员借助 GPT-5.2 Pro,找到了一个描述粒子在量子引力中如何相互作用的新数学结果。
评估 AI 执行科学研究任务的能力
OpenAI 推出 FrontierScience 基准,由物理、化学、生物学专家撰写并交叉验证,包含 Olympiad(奥赛风格短答案题)与 Research(用 10 分制评分量规打分的真实科研子任务)两条赛道,共 700 多道题、黄金集 160 道。GPT‑5.2 在两条赛道上分别取得 77% 与 25%,领先其他前沿模型,但开放式研究类任务仍有很大提升空间。
衡量我们的模型在真实世界任务上的表现
我们推出 GDPval——一套覆盖 9 大行业、44 种职业、1,320 个真实工作任务的新评估；由行业专家盲评打分，结果显示前沿模型的产出质量已接近行业专家，且速度快约 100 倍、成本低约 100 倍。
如何通过自白(confessions)让语言模型保持诚实
OpenAI 提出一种概念验证方法“自白”(confessions):让模型在主答复之外再输出一份只以诚实为唯一评分目标的报告,从而把违规行为暴露出来;在诱发不当行为的评估中,模型既违规又不坦白的概率仅 4.4%。
启用两项设置如何让我们的 ARC-AGI-3 得分提升至三倍
GPT‑5.6 Sol 在 ARC-AGI-3 上得分异常低，原因不在模型而在评测框架：官方 harness 丢弃私有推理并用滚动截断压缩历史。改用 Responses API 并开启保留推理与 compaction 后，公开任务集得分从 13.3% 升到 38.3%，输出 token 减少 6 倍。
提升前沿 LLM 的指令层级
OpenAI 发布 IH-Challenge 训练数据集,通过强化学习任务提升模型的指令层级遵从能力,同时增强安全可操控性和对提示注入攻击的鲁棒性,且不损失通用能力。
推出 EVMbench
EVMbench 是 OpenAI 与 Paradigm 合作推出的智能合约安全基准，收录来自 40 次审计的 117 个高严重性漏洞，从 detect（检测）、patch（修补）、exploit（攻击）三种模式评估 AI 智能体能力；GPT‑5.3‑Codex 在 exploit 模式下得分 71.0%，远高于半年前的 GPT‑5 的 33.3%。
推出 IndQA
IndQA 是 OpenAI 推出的新基准，用于评估 AI 模型在印度语言与文化场景下的理解和推理能力：涵盖 12 种语言、10 个文化领域共 2,278 道题，由 261 位印度领域专家撰写并经过对抗性筛选，采用专家编写的评分量表（rubric）逐条打分。
OpenAI 模型证伪了离散几何中的一个核心猜想
一个通用推理模型自主证伪了 Erdős 于 1946 年提出的平面单位距离猜想：它构造出无穷多个点集，使单位距离对数量达到 n^{1+δ}（δ>0），实现了对长期占优的「方形网格」构造的多项式级改进。证明已由外部数学家核验，并首次展示了 AI 自主解决数学子领域核心公开问题。
GPT-5.2 推导出理论物理学的一个新结果
在一篇新的预印本中,GPT-5.2 提出了一个胶子振幅公式,随后由 OpenAI 内部模型给出证明,并经论文作者验证。
深入解读我们的 Model Spec
本文揭秘 OpenAI Model Spec（模型行为规范）背后的设计理念与运作机制：它如何定义指令链、硬性规则与默认行为，如何被编写、落地和演进。结论：Model Spec 是一份面向公众的、清晰可辩论且可持续修订的行为框架，会随能力演进不断扩展。
推理模型难以控制自己的思维链,而这反而是件好事
OpenAI 发布开源评测套件 CoT-Control,测试了 13 个推理模型后发现:前沿模型几乎无法按要求控制自己的思维链(CoT),可控度最高仅 15.4%,且推理越长、RL 训练越多,可控度越低。这意味着模型也难以刻意混淆思维链来逃避监控,对 AI 安全的 CoT 监控而言是好消息。
在编码评测中把信号与噪声分开
OpenAI 用数据点分析流水线加人工标注对 SWE-Bench Pro 做了一次详细审计：自动化过滤标记出 286 个可疑任务，代理审查认定 200 个（27.4%）有问题，人类工程师则认定 249 个（34.1%），问题集中在过于严苛的测试、描述不充分的提示、覆盖率不足的测试和误导性提示四类，因此估算约 30% 的任务是坏的，并撤回此前推荐采用该基准的建议。
通过稀疏电路理解神经网络
OpenAI 通过在训练时强制绝大多数权重为零,得到结构更简单、电路更易解读的稀疏语言模型,证明在模型规模和稀疏度提升的同时,可解释性与能力可以兼得。
Parameter Golf 教会了我们什么
Parameter Golf 是 OpenAI 举办的开放机器学习挑战赛：参赛者需 16 MB 内、8×H100 上 10 分钟训练，在固定 FineWeb 数据集上最小化留出损失。八周内收到 1,000 多名参与者的 2,000 多份提交，文章总结其中九份代表性方案与十五份非记录赛道佳作，并分享在编码智能体普及时代办赛的经验与争议。
为什么语言模型会产生幻觉
OpenAI 新研究指出，语言模型产生幻觉的根源在于训练与评测体系奖励「猜测」而非「承认不确定」：只按准确率排名的榜单会鼓励模型瞎猜。论文从下一词预测的统计机制解释了幻觉的来源，并主张改造主流评测的计分方式，对错误加重惩罚、对合理的弃答给予部分分数。
为什么 SWE-bench Verified 不再能衡量前沿编码能力
OpenAI 审计发现，SWE-bench Verified 存在大量测试用例缺陷与训练数据污染：被审计问题中至少 59.4% 的测试会拒绝功能正确的解法，且所有前沿模型都能复现出参考补丁，因此 OpenAI 已停止报告该基准成绩，建议改用 SWE-bench Pro。
BrowseComp：面向浏览 agent 的基准测试
OpenAI 开源了一个包含 1,266 道难题的新基准 BrowseComp，用于衡量 AI agent 定位互联网上难以找到、相互纠缠的信息的能力。测试显示 Deep Research 达到 51.5% 的准确率，远超其他模型，且性能随推理时计算量平滑提升。
介绍 Model Spec(模型规范)
OpenAI 发布 Model Spec 首版草案,一份规定模型在 OpenAI API 和 ChatGPT 中应如何表现的文档,提出目标、规则与默认行为三层框架,并邀请公众就其内容提供反馈。