英伟达Vera Rubin NVL72首测:智能体推理每兆瓦吞吐量最高提升5.7倍

Artificial Analysis 于 2026 年 10 月 15 日发布 NVIDIA Vera Rubin NVL72 的首批 AA-AgentPerf 评测结果,其在智能体编程场景下的每兆瓦吞吐量最高达到上代 GB300 NVL72 的约 5.7 倍。该结果仅适用于原文日期和特定评测条件。

一句话看懂:Artificial Analysis 于 2026 年 10 月 15 日发布 NVIDIA Vera Rubin NVL72 的首批 AA-AgentPerf 评测结果,其在智能体编程场景下的每兆瓦吞吐量最高达到上代 GB300 NVL72 的约 5.7 倍。该结果仅适用于原文日期和特定评测条件。

事件核心:发生了什么

NVIDIA 的下一代机架级系统 Vera Rubin NVL72 首次登上 AA-AgentPerf 榜单。该系统搭载 72 颗 Rubin GPU 和 36 颗 Vera CPU,是 Blackwell 架构的继任者。在 Artificial Analysis 的智能体编程负载测试中,对比 GB300 NVL72,Vera Rubin NVL72 的每兆瓦总吞吐量在 DeepSeek V4 Pro 上约为 5.7 倍,DeepSeek V4.1 Flash 约 5.4 倍,GLM-5.2 约 3.0 倍,Kimi K3 约 2.8 倍。测试时对应单用户吞吐分别为约 190、580、165 和 67 tok/s。

AA-AgentPerf 专门模拟真实编程智能体的工作流:请求携带最多 132K 输入 token,回复常为简短工具调用,平均 97% 的输入 token 是上一轮已出现过的重复前缀,且中间可能暂停最多 5 秒等待工具执行。这种负载高度依赖 KV 缓存复用、prefill 调度和短输出延迟优化。硬件层面,Rubin GPU 保持 288 GB 内存,但内存带宽提升至 19.2 TB/s,NVLink 带宽 3.0 TB/s,密集 NVFP4 算力达 35 PFLOPS,Vera CPU 到 GPU 的 NVLink-C2C 带宽也翻倍至 1.8 TB/s。

为什么重要

智能体推理正成为大模型商业化的关键负载,其流量特征与聊天或固定长度 prompt 差异巨大。Vera Rubin NVL72 在每兆瓦吞吐量上的大幅领先,意味着在同等电力约束下,云厂商和 AI 应用提供商可以服务更多并发智能体会话,或支持更长上下文和更高单用户速度。这直接关系到推理成本、数据中心能效和算力经济性,也可能影响闭源与开源大模型在 Agent 场景下的部署选择。不过,目前公开信息仅覆盖上述四款模型和特定测试条件,不代表所有工作负载的永久排名。

对用户/开发者/创作者的影响

对开发者而言,若云端 API 或自托管推理逐步迁移到 Vera Rubin 平台,智能体编程、代码审查和自动化测试等应用的响应速度和并发能力可能改善,单位 token 成本也可能随能效提升而下降。对企业和创作者来说,更高效的推理意味着更复杂的 AI 应用——如多步骤图像生成、长文档处理和实时协作工具——有机会以更低成本运行。但短期内,实际可用性和定价仍取决于云服务商的上线节奏与区域覆盖。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是云厂商何时基于 Vera Rubin NVL72 提供公开 API 或实例,以及定价是否体现能效优势;二是 AA-AgentPerf 后续是否加入 1M token 上下文和更多模型,验证领先幅度是否稳定;三是 AMD、谷歌 TPU 等竞品在智能体推理能效上的跟进表现,可能影响开发者的平台选择。

来源:Artificial Analysis

celebrityanime
celebrityanime
文章: 29224

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注