扩散模型训练新方法Swift:用弱模型引导强模型,一半算力追平基线FID

Hugging Face Papers 上的一篇论文提出 Swift,用冻结的早期弱去噪器为强模型外推训练目标,不增加推理开销,在 ImageNet-256 上约用一半训练算力达到基线最佳 FID。

一句话看懂:Hugging Face Papers 上的一篇论文提出 Swift,用冻结的早期弱去噪器为强模型外推训练目标,不增加推理开销,在 ImageNet-256 上约用一半训练算力达到基线最佳 FID。

事件核心:发生了什么

2026 年 10 月 19 日,Hugging Face Papers 收录论文《SWIFT: Self-guided Weak-to-strong dIFfusion models via Target extrapolation》。据摘要,Swift 是一种自引导训练方法:训练强扩散模型时,冻结一个较弱的去噪器作为引导,对每个噪声输入,把干净回归目标从弱模型预测处向外推,放大仍欠拟合的分量。弱引导可以是早期训练检查点,主模型训练期间无需对其反向传播,训练结束后即丢弃。模型保留原采样器,支持条件与无条件生成,不需要标签丢弃或无条件分支。目前公开信息仅限摘要,实验细节尚未在本文范围内核验。

为什么重要

扩散模型训练成本高,推理时引导又常增加采样开销。Swift 把“弱到强”的引导放在训练阶段,推理沿用原采样器,指向高成本训练与低成本推理兼得的路线。若结论成立,图像生成、文生图等 AI 应用在算力受限时的训练门槛可能降低。摘要称,作者用 RKHS 中有限时间群体梯度流的谱分析解释机制,并证明在弱引导提前停止时,一定外推强度范围内后验均值误差严格低于标准训练;这属于理论论证,仍需更多独立复现。

对用户/开发者/创作者的影响

对开发者和研究者,Swift 的吸引力在于不引入额外推理 API 或采样步骤,可直接复用现有采样器;早期检查点充当弱引导,也便于在已有训练流程中改造。对使用图像生成工具的创作者,短期内影响有限,因为论文未发布模型或在线服务;但若方法被开源社区或闭源厂商采纳,未来模型质量提升可能不必完全依赖更大算力。企业采购侧可关注其是否减少训练预算,目前尚无产品化证据。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是方法是否被开源实现并在更大模型上复现;二是与现有推理时引导方案的成本和效果对比是否成立;三是 CIFAR-10 与 ImageNet-256 之外的任务是否同样有效。以上均需等待全文与后续实验。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29551

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注