SpecSlot论文提出按频段分配Token,像素空间生成模型降低全局注意力开销

alphaXiv 收录的论文 SpecSlot 提出将每个空间锚点拆成多个按频段分工的 token,只让低频 token 参与全局注意力,使像素空间图像生成在提速的同时保持细节。

一句话看懂:alphaXiv 收录的论文 SpecSlot 提出将每个空间锚点拆成多个按频段分工的 token,只让低频 token 参与全局注意力,使像素空间图像生成在提速的同时保持细节。

事件核心:发生了什么

据 alphaXiv 页面,论文《Read, Allocate, Route: Role-Coupled Tokenization for Pixel-Space Generative Transformers》(发布于 2026 年 10 月 29 日)提出 SpecSlot:它把输入图像切成 W 个空间锚点,每个锚点再扩展成 K 个“槽位”,每个槽位负责一组互不重叠的 DCT 频段系数。只有各锚点中最低频的那个槽位进入全局注意力,其余槽位仅在锚点内部做局部交互。模型采用“两个全局块 + 两个局部块”重复三次的调度。作者在 ImageNet-256、ImageNet-512 和文生图任务上给出了与 FLOPs 对齐的 JiT 基线对比:ImageNet-512 上 FID 改善 2.84,前向算力减少 3.9%;文生图在 DPG-Bench 上比 JiT-B/8 高 1.06,前向成本低 40.6%。需要说明的是,这些是论文报告结果,目前公开信息显示尚不构成正式上线产品或同行评审结论。

为什么重要

像素空间生成模型省去单独训练的自编码器,但细节越细、token 序列越长,全局注意力的二次成本越高。SpecSlot 的思路是把“细节多少”和“全局通信长度”解耦:增加槽位不增加全局序列长度,从而绕开这一成本瓶颈。这为图像生成模型提供了一条不同于“加 token、加算力”的效率路线,对研究者和依赖视觉生成能力的应用方都有参考价值。

对用户/开发者/创作者的影响

对普通用户和创作者,这类方法若被产品化,潜在意义在于更低的推理成本可能带来更快的生成速度和更低的调用价格;但论文阶段不等于可直接使用。对开发者,值得留意的是“角色绑定 token + 局部/全局分工”的架构能否被主流训练框架和推理引擎适配;对关注开源与闭源生态的人来说,若后续有开源实现,可能影响图像生成模型的部署成本门槛。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

可观察三点:一是是否出现代码或模型权重公开,且在不同分辨率下复现上述 FID 与成本数据;二是该调度在文生图之外的任务(如视频或编辑)上是否有效;三是主流图像生成模型是否会跟进类似的频段分工思路。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 31256

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注