一句话看懂：alphaXiv 上的一篇新论文提出 RePR，用生成模型的预测增益来训练图像分词器，在同等训练算力下让扩散生成质量超过直接做像素空间生成，ImageNet 条件生成 FID-50K 降到 2.18。
事件核心：发生了什么
2026 年 10 月 14 日，alphaXiv 公开了一篇题为《Generative Representation Learning for Scalable Latent Tokenization》的论文。作者提出一种自监督表征学习方法 RePR（Relative Prediction Representations），目标是把它当作生成模型的 tokenizer——也就是先把图像 patch 编码成特征，再交给生成器使用。
核心做法是：用点互信息（PMI）分解来构造监督信号，通过一个学到的生成预测器估计“有上下文时预测某个 patch 比没有上下文时好多少”，再让表征编码器去匹配这个估计。论文称该方法不需要负样本，并引入时间步加权和 bootstrapping 来让训练可扩展。
论文摘要给出的关键数据包括：在 ImageNet 和文本到图像数据集 GPIC 上，分词器编码器展现出“可扩散性”的缩放规律；外推后，在 ImageNet 上达到同等表征所需 FLOPs 比 DINOv2 少 7 倍，在 GPIC 上比 WebSSL 少 8 倍；搭配 JiT-L，FID-50K 为 2.18。论文还称，在 DINO 和 LeJEPA 失效的场景下，该方法能避免维度坍缩和特征抑制。
为什么重要
图像生成训练一直面临算力预算分配问题：是把算力全花在直接学像素的生成模型上，还是先花一部分训练 tokenizer。tokenizer 不是免费的，公平比较必须把编码器训练和生成器训练都算进去。这篇论文第一次把 tokenizer 和生成模型的联合 FLOP 效率放在一起分析，并声称在总训练算力接近的情况下，编码器加生成器的系统比像素空间生成器取得更好的 ImageNet FID。
如果结论成立，这会直接影响扩散模型和文生图系统的架构选择：与其把全部算力押在像素空间，不如把一部分算力用于学习更高效的 latent tokenization。同时，7 倍、8 倍的 FLOPs 差距如果可复现，对大模型训练成本和推理前端的算力规划都有参考价值。
对用户/开发者/创作者的影响
目前公开信息显示，这仍是一篇论文，不是已上线产品。对开发者和研究者来说，RePR 提供了一种可参考的训练思路：用生成模型的预测增益来监督表征学习，而不是依赖传统对比学习目标。如果后续有开源实现或 API 接入，可能影响文生图、图像编辑和条件生成任务的模型选型。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对创作者和企业采购而言，短期更直接的影响是观察：更省算力的 tokenizer 能否让图像生成服务在同等硬件下提升质量，或降低单张图生成成本。但论文没有给出推理成本数据，也没有提供可用工具，暂时不能按“已落地”来评估。
值得关注的后续
第一，RePR 是否会被开源或集成到主流扩散模型训练框架中；第二，论文声称的 7 倍、8 倍 FLOPs 优势能否在更大规模、更多数据集上复现；第三，FID-50K 2.18 的评测条件是否公开完整，是否有第三方独立验证。这些节点决定它只是一篇方法论文，还是会进入实际生成模型的训练管线。
来源：alphaXiv
