一句话看懂:arXiv 上一篇新论文指出,推理模型在已经答对后继续思考可能把答案改错,而只看最终答案是否正确无法判断何时该停。论文提出用“当前答案正确的概率(承诺)”与“最终答案正确的概率(判决)”之差来衡量继续思考的收益,并在 MATH-500 上测得 DeepSeek-R1-Distill-Qwen-1.5B 在已答对的 379 个点上继续推理平均损失 3.6 个百分点。
事件核心:发生了什么
该论文(arXiv:2611.21946v1,2026 年 11 月 18 日发布,目前仅见摘要)讨论推理模型的一个具体问题:模型已经得到正确答案后,是否应继续生成更多 token。作者认为,最终正确性探针只能估计“判决”,无法回答“现在停会不会更好”;而“承诺-判决差”等于剩余思考带来的预期答案质量变化,也等于停止所能获得的准确率增益。另一恒等式把准确率-预算曲线分解为链内答案变化和仍在运行的链的变化。
在 MATH-500 上,DeepSeek-R1-Distill-Qwen-1.5B 在全部 379 个已持有正确答案的位置继续推理,平均损失 3.6 个百分点(95% CI [2.2, 5.2]),且损失集中在少数题目。来自三个家族的六个推理模型、预算最高 16,384 token 的条件下,下降的准确率曲线主要来自“哪些链还在运行”,仍在推理的链保持或改善了答案。作者估计,理想停止规则在 1.5B 和 7B 模型上最多只能带来 +1.8 和 +2.5 个百分点的增益。
为什么重要
推理模型和长思维链是当前大模型竞争的重点,但“越长越好”并非总是成立。论文提醒,评估与产品侧若只监控最终答案,可能误判模型何时需要停止;对推理成本敏感的 API 调用和 Agent 应用,停止策略本身也会影响准确率与算力开销。不过,目前公开信息仅为摘要,未核验全文实验细节,结论应限定在论文所述任务和模型范围内,不宜外推为普遍规律。
对用户/开发者/创作者的影响
对开发者而言,若在 DeepSeek-R1-Distill 系列或其他开源推理模型上搭建应用,可关注“已答对后继续生成”的代价,尤其是在 MATH-500 类数学推理任务上;但论文没有给出可直接使用的停止 API 或产品功能,不宜据此调整生产系统。对普通用户,这意味着更长的“思考过程”不一定带来更准的答案,选择推理预算时应结合任务类型;对创作者和企业采购,可把推理成本与答案稳定性一起纳入评估,而非只看单次最终正确率。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是论文后续是否公开完整实验设置与代码,尤其是六个模型的具体名单和停止规则实现;二是社区是否复现“已答对后继续推理导致损失”的现象,并区分作者结论与社区评论;三是推理模型厂商是否在 API 中引入更细粒度的预算控制或提前停止机制。
来源:arXiv cs.AI


