ThinkJev提出按需思考方案:校准型决策可省72%思考词元

arXiv 新论文提出 ThinkJev,用同一个开源混合思考模型搭建“快慢”两套系统,只在统计上安全时让模型直接作答,其余再按需思考。按摘要给出的结果,它试图把大模型做封闭选项决策时的推理成本压下来,同时守住目标错误率。

一句话看懂:arXiv 新论文提出 ThinkJev,用同一个开源混合思考模型搭建“快慢”两套系统,只在统计上安全时让模型直接作答,其余再按需思考。按摘要给出的结果,它试图把大模型做封闭选项决策时的推理成本压下来,同时守住目标错误率。

事件核心:发生了什么

2026 年 10 月 30 日,arXiv cs.AI 收录论文 ThinkJev(编号 2610.37732v1)。作者面向“类型化决策”场景——模型从封闭选项中选一个,并要求输出可被代码读取的概率。做法是复用同一个支持混合思考的开源模型:System 1 在模型直接回答时读取选项字母的概率;System 2 在模型完成思考后读取同一缓存提示上的字母概率,升级不重复计算。由于选项字母可在任意数量思考词元后读取,一次采样思考就能覆盖不同思考预算。摘要称,方法无需训练,仅用带标签开发集上的统计检验决定 System 1 能否单独作答。在 5% 目标错误率下,Qwen3.5-27B 在 8359 个测试决策中有 24.5% 由快系统作答,实际错误率 3.9%;其余决策中,置信即停达到 81.6% 准确率,而全程思考为 82.7%,前者使用约 72% 的思考词元。上述为摘要披露,全文实验尚未核验。

为什么重要

大模型在算术、计数、日期比较等多步决策上,单次前向读取概率往往出错;但每次都“先想再答”又会让单次决策从毫秒级升到秒级。ThinkJev 的意义在于把“何时值得思考”变成可校准的预算分配问题,而不是统一拉长推理链。对依赖 API 或自托管模型的 AI 应用来说,这直接关系到推理成本、延迟和错误率之间如何取舍。

对用户/开发者/创作者的影响

开发者可关注其开源代码与数据生成器(GitHub 已给出地址),用于构建分类、路由、表单填充等封闭选项服务;企业采购可把“目标错误率”作为选型指标,而不只看平均准确率。创作者若使用带概率输出的工具,可留意系统是否只在低风险场景跳过思考,以减少等待。需注意,论文摘要未说明生产环境延迟、吞吐与成本数据,目前不宜当作已上线能力。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是全文是否复现摘要中的校准结果,尤其是不同模型规模下的错误率控制;二是 JevBench 公开项目上的对比能否扩展为更系统的评测;三是该方法能否被主流推理框架或 API 服务吸收,形成按需思考的默认策略。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 31208

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注