扩散模型新训练框架SALD：无教师网络，用双噪声路径实现自参考优势学习

事件核心：发生了什么

研究者提出名为 SALD 的自参考训练框架，核心思路是：对同一组图像-文本对，用同一个扩散模型在两种噪声水平下分别评估。低噪声路径不记录梯度，只作为参考；高噪声路径负责产生训练梯度。SALD 不直接蒸馏低噪声路径的预测结果，而是用两条路径的误差差来调整高噪声路径的训练目标。

论文摘要显示，该框架包含三个组件：Advantage-Guided Diffusion（AGD）将相对误差转成可微的样本级权重；Temporal Advantage Memory（TAM）在训练中累积相对难度，并动态调整两条噪声路径之间的差距；Spectral Advantage Decomposition（SAD）比较两条路径的残差功率谱，构造基于频率的可微隐变量权重。整体只使用一套模型参数，训练和推理阶段都不需要外部教师网络或新增可训练参数，也不改变推理流程。

摘要称，在多架构和多数据集上观察到生成质量的一致性提升，并通过消融实验量化了各组件的贡献。需要注意的是，目前公开信息仅为论文摘要，全文实验细节、同行评审状态和复现结果尚未核验。

为什么重要

扩散模型的后训练和偏好对齐通常依赖外部奖励模型、教师网络或人工标注数据，这些都意味着额外算力、参数和维护成本。SALD 尝试把“参考信号”从模型内部生成，如果结论在更大规模上成立，可能降低图像生成模型训练流程的复杂度，也减少对外部监督信号的依赖。

这一方向与近期大模型领域用自评估、自反馈提升训练效率的思路相近，但 SALD 针对的是扩散模型的连续噪声过程，而非语言模型的 token 生成。它是否能在开源社区和闭源训练管线中通用，取决于后续复现和工程化成本。

对用户/开发者/创作者的影响

对开发者而言，如果 SALD 的训练方式可以被主流扩散模型代码库吸收，未来微调和后训练可能不再必须搭建独立教师网络，显存和算力门槛有望下降。对创作者来说，这类工作如果落地，可能体现为图像生成模型在风格一致性、文本对齐等指标上的渐进改善，而不是马上出现全新功能。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

目前这仍是论文层面的方法，没有产品发布、API 或开源代码信息，因此短期内不会直接改变现有工具的使用方式。企业采购和模型选型可以把它当作技术路线观察项，而不是立即替换现有训练管线的依据。

值得关注的后续

第一，论文是否公开代码和完整实验设置，尤其是多架构、多数据集上的可复现结果。第二，SALD 与现有扩散模型后训练方法（如基于奖励模型的微调）在相同算力下的对比是否明确。第三，是否有开源社区或商业模型团队跟进采用该框架，并披露训练成本和生成质量的实际变化。

来源：Hugging Face Papers