无需预训练编码器：Drifting Models 借判别几何将 FID 降低 82-95%

一句话看懂：一篇 2026 年 10 月 3 日上传至 Hugging Face Papers 的论文提出“持续表征学习”，让 Drifting Models 无需预训练编码器即可从像素直接学出判别性几何，摘要称在多个数据集上把 FID 较原像素版降低约 82%–95%。

事件核心：发生了什么

Drifting Models 的思路是把迭代式分布精修从推理阶段搬到训练阶段，从而支持高效的一步生成。但此前表现高度依赖表征：直接在像素空间做 drifting 效果较差，而使用预训练特征空间能明显提升样本质量，原因一直不清晰。这篇论文把差异归因于表征的“判别几何”——它决定核密度估计（KDE）中的样本权重，进而决定漂移方向。作者提出 persistent representation learning，在生成器随批次演进的同时持续学习更具判别性的表征几何；并给出匹配条件下 KDE 比率损失与 drift 回归损失的当前步梯度等价关系，据此直接控制漂移速度。摘要称，该方法在不使用预训练编码器的情况下从像素学到有效判别表征，FID 相较原始像素空间版本降低约 82%–95%；适配预训练表征并加入速度裁剪还能带来额外收益。目前公开信息仅为论文摘要，全文实验尚未核验。

为什么重要

一步生成若想真正落地，绕不开“少步数、高质量、低算力”的三角约束。过去用预训练特征空间提升生成质量，代价是引入外部大模型依赖，训练与部署链路更重。该论文尝试把表征学习并入训练过程本身，理论上可减少对闭源或大型视觉编码器的绑定，也让“表征质量决定生成质量”这一经验规律有了更清晰的解释框架。对开源社区而言，若结论可复现，意味着在有限算力下训练一步生成模型的路径可能更直接。

对用户/开发者/创作者的影响

对开发者，短期最实际的价值是理解一个调参方向：drifting 类方法的瓶颈未必在生成器，而在用于构造漂移场的表征几何。若后续代码开源，可能降低复现门槛，减少对预训练编码器的采购或调用成本。对创作者和终端用户，这属于训练侧改进，暂不会直接改变现有图像生成产品的使用方式；内容质量提升要等它进入实际模型或 API 后才可感知。目前公开信息显示，该工作未提及产品化、定价或上线计划。