NVIDIA

共 4 篇文章

NVIDIA进阶

用 NVIDIA Vera CPU 解决 agentic AI 集群面临的挑战

基于 16.3 万个 agentic 会话的真实遥测数据,超过 97% 的会话轨迹各不相同,传统的多规格 CPU 集群策略在 AI 工厂中难以为继。NVIDIA 分析认为 agentic 负载是「长串行关键路径 + 瞬时并行爆发」的混合形态,因此 Vera CPU 以单线程性能与高并发并重的单一设计点来优化「完成的会话总数」,实测每核 agentic 性能最高可达 AMD Venice 的 1.5 倍。

2026-08-246 分钟
NVIDIA进阶

NVIDIA AVO 在 ARC-AGI-3 上达到 100%,展示面向长程自主智能体的前沿级通用架构

NVIDIA 的智能体变异算子(AVO)架构通过持久记忆、监督与工具使用,将 Claude Opus 5 从 30% 的模型基线提升为在 ARC-AGI-3 上满分的完整智能体系统,说明系统设计而非仅模型能力才是解锁前沿级长程性能的关键。

2026-08-219 分钟
NVIDIA进阶

在 NVIDIA GB300 NVL72 上部署 Qwen3.8-2.4T-A95B:2.4T 参数模型与可配置推理能力

阿里开源 2.4T 总参数、每 token 激活 95B 的 Qwen3.8-2.4T-A95B,采用全注意力与线性注意力混合架构和细粒度 MoE,支持百万 token 上下文与 low/high/xhigh 推理档位。NVIDIA 通过 SGLang、vLLM、Dynamo 与 NIM 提供 Day-0 部署方案,在 GB300 NVL72 上 FP8 精度实现每 GPU 超 4K tokens/s。

2026-08-125 分钟
NVIDIA进阶

NVIDIA Nemotron 3.5 Lightning:为长时运行 agent 提供快速、准确的专业任务执行

Nemotron 3.5 Lightning 是 30B 参数、3B 激活参数的开源 MoE 模型,面向常驻 agent 的高吞吐低延迟执行层,通过 speculative decoding、harness 优化训练和 NVFP4 量化,在同尺寸模型中实现最高 4 倍输出速度并拿下精度-速度 Pareto 前沿,配合 NeMo Switchyard 可与其他模型组成「模型系统」按任务路由。

2026-08-1110 分钟