NVIDIA 发布 Nemotron-Labs-Sigma:14 个连续扩散语言模型检查点开源

NVIDIA 于 2026 年 11 月 20 日发布 Nemotron-Labs-Sigma,一套在 16 维连续嵌入空间做扩散去噪的语言模型,提供 3B/8B 共 14 个开源检查点,并附带少步蒸馏与自投机解码版本。

一句话看懂:NVIDIA 于 2026 年 11 月 20 日发布 Nemotron-Labs-Sigma,一套在 16 维连续嵌入空间做扩散去噪的语言模型,提供 3B/8B 共 14 个开源检查点,并附带少步蒸馏与自投机解码版本。

事件核心:发生了什么

NVIDIA 在 Hugging Face 上线 Sigma 家族,采用 Nemotron 开放模型许可证,模型卡称可用于商业用途。14 个检查点分为四类:Base、Instruct、少步蒸馏(NFE 2/4/8/16 共 8 个)和自投机解码版本。上下文默认 4,096 token,Sigma-8B-instruct 为 8,192。推理需安培至 Blackwell 代 CUDA GPU,以 bfloat16 运行,单张 H100 约 120 至 140 token/s,目前公开信息显示无 CPU 支持和量化版本。评测数据均来自 NVIDIA 自评:Sigma-8B base 在 6 项任务平均 71.16,高于 NLD-8B 的 70.22;Sigma-8B-instruct 在 GSM8K 达 91.96,但 AIME25 仅 17.00,10 项平均 59.14 略低于 NLD-8B 的 59.92。

为什么重要

主流扩散语言模型如 LLaDA、Dream 在离散 token 上工作,轨迹难以引导;Sigma 改为在平滑潜空间沿 ODE/SDE 路径去噪,官方称这让少步蒸馏和嵌入空间引导更可控。8 步蒸馏版 8B 平均仍有 70.34,接近 256 步教师模型;自投机版本在 GB200 配合 SGLang 时平均比自回归解码快 3.46 倍。这说明扩散语言模型开始从论文原型走向可部署形态,也为非自回归推理路线增加了可参考的开源基线。

对用户/开发者/创作者的影响

开发者可在 Hugging Face 获取全部检查点,需 PyTorch 2.4+、Transformers 4.55+ 并开启 trust_remote_code;蒸馏模型卡列出 vLLM、SGLang 和 Docker Model Runner 作为服务方案,NVIDIA 不提供托管 API。对算力有限的团队,单卡 H100 即可运行是降低门槛的因素;但硬推理任务分数偏低,适合代码、数学短链和需要并行解码的实验场景,不适合直接替代高难度推理模型。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是社区能否复现 NVIDIA 自评分数,尤其是 AIME 类高难任务;二是 vLLM、SGLang 等推理框架对连续扩散采样的支持是否完善;三是量化版本与 CPU 支持是否会跟进,这决定它能否进入更广泛的部署环境。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 36339

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注