Nvidia releases Nemotron 3.5 Lightning, an open 30B-parameter MoE model that it says delivers up to 4x faster output speeds, and an agentic AI model router (Kyt Dotson/SiliconANGLE)

事件核心：发生了什么

英伟达发布了 Nemotron 3.5 Lightning，这是一个参数规模为 30B 的 MoE（混合专家）开源模型。英伟达表示，相比此前版本，该模型的输出速度最高可以提升 4 倍，这意味着在相同硬件条件下，模型生成 token 的吞吐量更高，推理成本可能更低。

与模型同时公布的还有一款 agentic AI model router，即面向智能体（Agent）场景的模型路由工具。它可以根据任务类型或输入内容，自动将请求分配到合适的模型上执行，而不是让所有请求都走同一个大模型。目前公开信息显示，英伟达希望通过“更快的基础模型 + 更聪明的调度层”组合，降低在实际 AI 应用中使用开源模型的门槛。

为什么重要

这件事的重要性不在单一模型跑分，而在英伟达正在同时做两件事：一是用 30B MoE 尺寸切入“高性价比推理”赛道。相比数百 B 的稠密大模型，30B MoE 在保证一定能力的前提下，参数量和计算量更可控，对开发者来说意味着更低的部署成本和更快的响应速度。

二是模型路由器的思路值得关注。过去两年，业界讨论“如何选模型”时，通常靠开发者手动权衡。英伟达把模型选择自动化，相当于在应用层引入了一个智能调度系统，这会让“多模型混用”成为更常见的架构。英伟达既是算力供应商，又掌握 CUDA 生态，现在再叠加快速推理模型和路由工具，它在 AI 产业链上的话语权会进一步从“卖芯片”延伸到“卖模型层技术方案”。

对用户/开发者/创作者的影响

对开发者来说，最直接的信号是：你可以用一个 30B 量级的开源模型，在消费级或单卡企业级硬件上跑出接近闭源大模型的体验。特别是那些需要高并发、实时响应的应用，比如客服机器人、代码补全、实时翻译，4 倍输出速度意味着更低的 token 延迟，也能减少为了控制成本而被迫使用小模型的妥协。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对创作者和 AI 应用公司而言，模型路由器降低了技术选型的复杂度。以后你不需要在“便宜的小模型”和“聪明的大模型”之间二选一，系统可以自动把简单任务交给轻量模型，把复杂推理交给更强模型。这种组合能明显改善单次调用的成本结构。

对普通用户，短期内感知可能不强，但它意味着更便宜的 AI API 调用、更流畅的对话响应，会逐步在各类 AI 产品中体现出来。如果你在做基于开源模型的二次开发，这个版本值得关注，因为它用 MoE 结构走通了一条“小参数、强能力、高速度”的路线。

值得关注的后续

第一，看模型是否真的开源并开放可商用授权。英伟达之前对开源模型的态度有反复，这次是不是真正的 Apache 协议，需要确认。第二，看“4 倍速度”是在什么硬件、什么精度下测出来的，A100、H100 还是 RTX 4090，不同环境差异很大。第三，看模型路由器是否开源或提供 API，如果它只能配合英伟达自家推理框架使用，对开发者来说灵活性会打折扣。

来源：Techmeme