一句话看懂:alphaXiv 上的一篇新论文提出 PixelMoE,把大语言模型常用的稀疏混合专家(MoE)结构直接迁移到像素空间扩散模型,在相同激活参数量下取得更低 FID,说明像素空间也能靠稀疏扩容提升生成质量。
事件核心:发生了什么
根据论文摘要,作者在像素空间扩散模型中引入标准 LLM 风格的 Token-Choice 路由,每个图像 token 从 32 个细粒度专家中选 4 个,同时保留一个始终激活的共享专家,并用偏置策略做负载均衡,不额外引入扩散专用路由目标或辅助损失。PixelMoE 还搭配像素空间层次化流匹配:先在半分辨率阶段生成粗结构,再在全分辨率阶段细化细节,两阶段共享同一骨干和预测头。在类别条件 ImageNet-1K 上,论文报告 256×256 达到 FID 1.47,512×512 达到 1.53,且未使用表示对齐或感知损失。代码和模型据称将很快发布。
为什么重要
像素空间扩散长期面临一个矛盾:直接建模原始像素可以避免 tokenizer 带来的细节损失,但稠密扩容会让每个 token 的计算量同步上涨。PixelMoE 的价值在于,它尝试用 LLM 领域已经成熟的稀疏 MoE 方案来解耦模型容量与激活计算,而不是为扩散单独设计路由机制。如果这一路线成立,像素空间生成模型在算力效率和可扩展性上会更有竞争力,也可能影响图像生成模型在开源与闭源之间的技术选型。
对用户/开发者/创作者的影响
目前公开信息仍是论文摘要,尚不能视为已上线产品。对开发者和研究者而言,值得关注的是它没有引入扩散专用路由目标,这意味着工程实现可能更接近现有 LLM MoE 代码栈,迁移成本相对可控。对创作者和 AI 应用团队来说,若后续代码和模型开源,像素空间模型有望减少对图像 tokenizer 的依赖,但推理成本是否下降还需看总参数量、显存占用和采样步数,摘要并未给出墙钟推理成本对比。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是代码和模型是否按计划发布,以及 632M 激活参数配置的实际推理开销;二是 PixelMoE 与 EC-DiT、JiTMoE 等像素空间 MoE 路线的公平对比能否复现;三是这种稀疏像素扩散能否扩展到文生图、视频生成等更复杂任务,而不只是类别条件 ImageNet。
来源:alphaXiv


