4-NFE 扩散蒸馏新方法 SMD:无需辅助评分模型,挑战多步教师模型

一篇 2026 年 10 月 13 日发布的论文提出 SMD 框架,仅用回归式 on-policy 速度蒸馏,就能在 4 步采样下生成图像、视频和 3D 内容,并声称在多个基准上超过多步教师模型。若结论经复现验证,少步扩散推理的成本门槛可能进一步降低。

一句话看懂:一篇 2026 年 10 月 13 日发布的论文提出 SMD 框架,仅用回归式 on-policy 速度蒸馏,就能在 4 步采样下生成图像、视频和 3D 内容,并声称在多个基准上超过多步教师模型。若结论经复现验证,少步扩散推理的成本门槛可能进一步降低。

事件核心:发生了什么

根据 Hugging Face Papers 收录的论文摘要,这项研究关注的是扩散与流模型的少步蒸馏问题。现有方法通常依赖辅助评分模型或特殊架构,而作者提出 Simplified Matching Distillation(SMD),核心是简单的 on-policy 速度回归,用于 4-NFE(每样本四次函数评估)生成。

方法上,作者引入名为 Pivot 的仅训练阶段残差代理,把局部修正与学生模型区间均值预测分离,以表示教师速度变化;同时通过远离较弱教师预测来避免不理想的生成模式。SMD 完全基于回归,不需要在线评分估计或对抗训练,部署的生成器结构保持不变。

摘要称,SMD 已在图像生成与编辑、3D 生成、视频合成、音视频联合生成等任务上评估,参数规模扩展至 330 亿,并支持跨模型、多教师和因果视频蒸馏。需要强调,以上均为论文摘要陈述,不代表已上线产品,也未说明是否通过同行评审。

为什么重要

少步蒸馏是降低扩散模型推理成本的关键方向。采样步数减少,意味着同样的算力可以支撑更多生成请求,对图像、视频和 3D 内容的规模化部署尤其重要。SMD 若成立,其价值在于简化训练链路:不依赖在线评分模型和对抗训练,训练复杂度和工程成本有望下降。

另一个看点是 330 亿参数规模和多教师蒸馏。大模型少步化一直是难点,跨模型蒸馏能力则关系到开源与闭源模型之间的能力迁移,可能影响未来生成模型的生态分工。

对用户/开发者/创作者的影响

对开发者和企业而言,4-NFE 生成如果稳定,可显著降低推理延迟和 GPU 成本,适合接入图像编辑、视频生成和 3D 资产管线。由于部署生成器无需改动,已有推理服务有可能以较低迁移成本适配。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对创作者来说,更快的生成速度意味着交互式工作流更可行,但当前信息仅来自摘要,实际画质、编辑一致性和视频时序稳定性尚待验证。普通用户短期内不会直接感知变化,除非相关方法进入开源模型或商业 API。

值得关注的后续

一是论文代码和权重是否开源,社区能否复现 4-NFE 下超过多步教师的结果;二是 330 亿参数蒸馏在真实推理环境中的显存与延迟表现;三是多教师和因果视频蒸馏能否被主流视频生成工具采用,以及是否有闭源厂商跟进类似路线。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29178

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注