一句话看懂：一项新论文提出，REPA、弥散正则等扩散 Transformer 训练加速方法，可能主要通过重塑 AdaLN-Zero 的残差门控来起作用，而不只是靠附加监督或特征结构。这为理解和继续加速图像生成训练给出了一个可测量的新方向。
事件核心：发生了什么
2026 年 10 月 29 日，Hugging Face Papers 收录的一篇论文重新审视了扩散 Transformer 的训练加速机制。作者发现，REPA 和弥散正则等常用方法会显著改变 AdaLN-Zero 中的残差门控 α——这个参数直接控制条件更新如何进入残差流。加速后的模型对 α 的扰动更敏感，门控结构也能反映类别之间的语义关系。
论文进一步提出归一化参与率（nPR）来刻画门控的通道组织，并在不同 REPA 教师、投影器结构和径向目标上观察到：门控参与越广，生成质量往往越好。基于这一线索，作者设计了一种无需教师的径向目标，通过特征范数正则促进门控参与，不使用成对特征比较。在 ImageNet 256×256 和 SiT-B/2 设置下，该方法相比弥散损失改善了 FID，同时提高了跨时间步和类别的平均门控参与度。需要说明的是，上述结论基于论文摘要，全文实验尚未核验。
为什么重要
扩散模型训练成本高，REPA 这类方法一直被归因于额外监督或空间先验。如果加速效果有相当一部分来自残差门控通路的重新组织，那么研究者评估和设计加速方案时，就多了一个可观测、可量化的内部指标 nPR。对图像生成模型的训练效率而言，这意味着可能找到更简单、无需额外教师模型的加速路径，减少对复杂辅助目标的依赖。
对用户/开发者/创作者的影响
对开发者和训练团队来说，nPR 提供了一种诊断工具：在调参或引入正则项时，可以观察门控参与是否变宽，而不只盯着 FID。论文提出的教师无关径向目标，也有望降低复现和部署加速方案的门槛。对使用图像生成 AI 应用的创作者而言，这类训练侧改进短期不会直接改变产品功能，但若被主流开源训练框架采纳，可能间接降低模型迭代成本、加快新模型出现节奏。目前公开信息显示，该方法尚未集成到任何已知产品。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是论文全文是否在更多模型规模、数据集和采样器上验证结论；二是 nPR 和残差门控分析能否被主流训练代码库采纳为常规诊断指标；三是这种教师无关径向目标与现有 REPA、弥散正则组合时是否仍有增益；四是开源社区是否出现基于该思路的轻量训练脚本。
