一句话看懂:2026 年 11 月 18 日发表于 arXiv 的论文提出 DNeo 架构,通过改进目标模型特征编码方式优化投机扩散解码,据摘要称在生成质量不变的前提下,速度比 DFlash-2 快 1.3 倍。这项进展针对的是大模型推理加速中的关键瓶颈。
事件核心:发生了什么
论文针对投机扩散解码中的并行草稿模型(parallel drafter)提出改进。这类方法让一个小模型在一次前向中生成多个草稿 token,再由大目标模型并行验证,通过的草稿越多,推理越快。作者指出,DFlash、DSpark 等现有架构依赖目标模型特征来提升草稿质量,但标准特征编码存在三个问题:编码投影会通过“残差混合”破坏目标特征空间;没有对先前被拒草稿的记忆;目标层特征采样均匀,遗漏了重要的隐藏状态。
为此,作者提出 Mixture-of-Features Attention(MoFA),配合拒绝记忆(rejection memory),以及 2-tap 因果卷积、仅前缀交叉注意力和非均匀目标层选择等增强,形成 DNeo。摘要称,在不增加草稿模型占用、不影响生成质量的情况下,生成速度比 DFlash-2 提升 1.3 倍。需要说明的是,上述结论仅来自论文摘要,全文实验设置与可复现性尚未核验。
为什么重要
推理成本是大模型规模化落地的核心约束之一。投机解码通过“小模型起草、大模型验证”减少大模型前向次数,而并行草稿能否多 token 同时通过验证,直接决定加速效果。DNeo 的价值在于把优化重点放在目标特征的编码质量,而非单纯扩大草稿模型,这对显存和算力受限的部署场景有现实意义。若结论在真实负载下成立,可能影响推理框架和推理服务商的技术选型。
对用户/开发者/创作者的影响
对普通用户,这类底层优化不改变使用方式,但可能带来更低的 API 延迟和价格空间。对开发者,带记忆机制的特征编码思路,可能被后续的推理引擎或开源实现借鉴;不过目前公开信息显示这仍是论文方法,未见可用代码、API 或产品集成,短期内不宜按“已上线能力”评估。对企业采购,判断依据仍是实际吞吐、延迟和成本曲线,而非论文中的单一加速数字。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是作者是否公开代码或与主流推理框架集成,让结果可被第三方复现;二是 1.3 倍加速在长上下文、批处理等不同负载下是否稳定;三是 DFlash 等基线方法是否跟进类似的特征编码改进,形成新一轮推理加速竞争。
来源:arXiv cs.AI


