一句话看懂：2026年10月19日发布于alphaXiv的一篇论文提出免训练方法SP²ec，在生成过程中动态调整视觉语言模型的自投机解码配置，在Qwen2.5-VL-7B-Instruct和LLaVA-NeXT-Mistral-7B上较原有方法最高提升约11%吞吐。
事件核心：发生了什么
这篇论文关注视觉语言模型（VLM）的推理加速。投机解码（SD）通常依赖一个单独训练的小型草稿模型，但VLM输入模态多样，小草稿模型很难持续保持高吞吐。自投机解码改为复用目标模型自身的部分能力做草稿，例如跳过部分层或裁剪视觉token，从而保留多模态能力，代价是“最佳草稿配置”因提示词而异。
作者提出SP²ec：一种免训练的在线选择算法，把候选草稿配置视为有序的“臂”，利用现有自投机方法（SWIFT、KnapSpec、SpecVLM及作者提出的cosSim）中观察到的单峰吞吐模式，在生成过程中根据已接受token数和实际耗时反馈，集中采样峰值附近的配置，并对“墙钟时间遗憾”给出理论保证。实验覆盖视觉与文本任务，信息目前来自论文摘要与alphaXiv页面，尚未见同行评审声明。
为什么重要
VLM推理正在从图文问答走向多模态AI应用，延迟直接影响产品体验。自投机解码免去单独训练草稿模型的成本，但如果不解决“每个提示词配置不同”的问题，加速收益会被探索开销吞掉。SP²ec的价值在于把配置选择变成轻量的在线控制问题，而不是再训练一个模型，这为后续在开源VLM推理栈中低成本集成提供了思路。
对用户/开发者/创作者的影响
对开发者而言，该方法不要求重新训练草稿模型，理论上可以叠加在已有自投机推理实现上，但摘要提到的“已知时间成本画像”意味着部署前仍需做耗时分析，并非即插即用。对使用VLM做图像理解、文档问答或多模态Agent的团队，若能稳定获得约一成吞吐提升，会直接影响API延迟和算力成本。目前公开信息显示这仍是论文阶段的方法，没有可直接调用的产品接口。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是是否与主流开源推理框架（如vLLM、SGLang类生态）集成，以及是否开源实现；二是单峰假设在更多模型、更多模态任务上是否成立；三是在真实服务并发场景下，墙钟收益能否保持，而不是只在单条请求基准中生效。
来源：alphaXiv
