VSpark 提出无损投机解码新方案:机器人 VLA 模型推理最高提速 2.10 倍

Hugging Face Papers 上的一篇论文提出 VSpark,针对自回归视觉-语言-动作(VLA)模型在机器人控制中的投机解码做了三处改进。根据摘要,它在四个 VLA 和四个操作基准上取得 1.28 倍到 2.10 倍加速,同时保持解码无损。

一句话看懂:Hugging Face Papers 上的一篇论文提出 VSpark,针对自回归视觉-语言-动作(VLA)模型在机器人控制中的投机解码做了三处改进。根据摘要,它在四个 VLA 和四个操作基准上取得 1.28 倍到 2.10 倍加速,同时保持解码无损。

事件核心:发生了什么

VLA 模型像语言模型一样逐个 token 生成机器人动作。投机解码的思路是让一个轻量草稿模型一次提出多个 token,再由 VLA 单次前向验证,只接受与其自身预测一致的 token,从而不改变输出结果。但论文摘要指出,机器人控制中存在大量不同 token 编码几乎相同运动的情况,草稿即使接近正确动作仍会被拒绝,加速幅度因此受限。

VSpark 给出三项设计:用带校准动作噪声的 rollout 让草稿模型接触更多机器人状态;让草稿模型对齐 VLA 的隐藏特征,而不只匹配输出 token;在草稿被拒时保留 VLA 已计算的后续预测,作为下一次验证的候选,而不是丢弃。目前公开信息仅为论文摘要,实验细节和完整评测条件尚未核验。

为什么重要

机器人控制对推理时延敏感,而 VLA 通常参数较大、逐 token 生成慢。若投机解码能在不损失动作质量的前提下稳定提速,等于在不大幅增加算力的条件下改善实时性,对端侧部署和闭环控制都有实际意义。VSpark 的价值在于它试图解决通用投机解码直接搬到动作序列上“接受率低”的痛点,提示 VLA 推理优化需要专门设计,而非简单复用文本大模型的方案。

对用户/开发者/创作者的影响

对做机器人应用的开发者,这类方法可能减少每步动作生成的等待时间,让高层 VLA 更适合接入真实控制循环;但摘要只覆盖四个操作基准,尚不能推断其在导航、人形全身控制等场景的表现。对关注开源推理栈的团队,草稿模型训练和特征对齐属于额外工程成本,需要权衡收益。普通用户暂时不会直接感知,因为论文并非已上线产品。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是后续是否公开代码和草稿模型,以及在更多动作 tokenizer 上的复现结果;二是加速比在真实机器人硬件和闭环任务中能否保持,而不只是离线基准;三是其他 VLA 推理优化路线(如动作分块、并行解码)是否会与之结合或形成竞争。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 36139

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注