让草稿模型故意被拒:新方法提升长程智能体推理准确性

alphaXiv 收录的一篇论文提出,在长程推理中,草稿模型被接受的位置会影响目标模型的数值精度;通过训练草稿模型在关键决策点被拒绝,可让目标模型在更干净的验证块起始处重新采样,从而提升智能体编码任务的成功率。

一句话看懂:alphaXiv 收录的一篇论文提出,在长程推理中,草稿模型被接受的位置会影响目标模型的数值精度;通过训练草稿模型在关键决策点被拒绝,可让目标模型在更干净的验证块起始处重新采样,从而提升智能体编码任务的成功率。

事件核心:发生了什么

论文于2026年11月3日发布。作者在 GLM-5.3 和 DeepSeek-V4.1-Flash 上测量发现,投机解码的验证窗口内数值噪声随槽位增加:GLM-5.3 槽位0平均偏差0.473 nats,每槽约增加0.0195 nats。超过2 nats的偏差比例从槽位0的3.2%升至槽位7的6.2%。教师强制对比显示,约30轮后,经验证写入的上下文出现超过4 nats偏差的比例估计高出10%至20%。据此,作者训练草稿模型在“承诺句”处提出应被拒绝的续写,使目标模型在验证块起始处重新采样关键推理。在复杂智能体编码基准上,该方法提升了端到端成功率,且不改变目标模型或其输出分布,仅训练了托管参数的0.06%至0.28%。目前公开信息仅基于论文摘要与页面素材,具体基准名称和完整实验细节需查阅原文。

为什么重要

投机解码此前多被视为纯加速手段,论文给出了一个反直觉结论:它还能充当上下文精度的分配器。若结论成立,意味着长程智能体在开源权重模型上的推理可靠性,可能不只取决于模型本身,也取决于解码路径如何安排关键决策的写入位置。这对以低成本部署长程智能体的团队有直接参考价值,但尚需独立复现。

对用户/开发者/创作者的影响

对使用开源权重模型构建编码智能体的开发者,该方法提供了一条轻量路线:只微调极小比例参数,不改目标模型输出分布,理论上可叠加在现有投机解码框架上。对闭源 API 用户,短期影响有限,因为论文未涉及商用接口。创作者若依赖长程智能体处理多轮任务,可关注关键判断是否在上下文中稳定保留,而非只看单步生成速度。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是该方法能否在更多模型和更复杂任务上复现;二是推理框架如 vLLM 等是否集成类似草稿训练策略;三是“承诺句”的自动识别在真实智能体轨迹中的稳定性;四是论文所述0.06%至0.28%参数训练成本在工程上是否易于落地。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 32402

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注