LEV循环决策模型:不生成文本,靠重复计算在难题上提准

Hugging Face Papers 收录的论文 LEV 提出一种“循环决策”思路:不靠生成文本推理,而是重复运行模型层来加深计算,在难题上提升准确率,并可按需分配计算量。

一句话看懂:Hugging Face Papers 收录的论文 LEV 提出一种“循环决策”思路:不靠生成文本推理,而是重复运行模型层来加深计算,在难题上提升准确率,并可按需分配计算量。

事件核心:发生了什么

据论文摘要(原文发布时间为 2026 年 10 月 14 日),LEV 是一种决策模型:它对输入给出每个选项的概率,不做文本生成。与固定深度的常规决策模型不同,LEV 通过循环重跑网络层来“想得更深”,在每个循环步骤后读取选项并联合训练各步,因此同一份权重可在任意深度作答。摘要称,在三个循环骨干上,准确率随深度提升,且提升主要出现在难题上;2.6B 版本在 JevBench 上从深度一的 63.2% 升至深度四的 76.2%。此外,一个小型“停止器”可按问题动态设定深度,在未标注请求上拟合阈值,节省 15% 至 24% 算力,准确率损失不到 1 个百分点。在锁定测试集上,1.4B 和 3B 模型比同延迟下 50ms 以内的稠密模型和级联方案高 5.4 至 8.8 个百分点。需要说明的是,以上均为论文摘要信息,未核验全文实验。

为什么重要

当前“推理更久”多依赖生成更多 token,每一步都要付出解码成本。LEV 把深度放在循环层里,而不是输出文本里,提供了一条不同的 scaling 路径:用计算深度换准确率,而非用 token 数量换准确率。若该方法在更多任务上成立,会推动决策类模型在延迟敏感场景的竞争力,也意味着“按题分配算力”可能从工程技巧变成模型原生能力。

对用户/开发者/创作者的影响

对开发者而言,单一 checkpoint 支持多深度推理,有望简化部署与调参;按需深度机制若能落地,可降低推理成本。对普通用户和创作者,这类模型不直接生成内容,但可能改善分类、审核、选项判断等后台 AI 应用的响应质量与成本。企业选型时可关注:在相同延迟预算下,循环决策模型是否优于稠密模型或级联方案。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文全文实验是否覆盖更多任务与骨干,复现结果是否一致;二是“停止器”的动态深度策略在真实流量下是否稳定;三是是否有开源实现或 API 落地,以及竞品是否跟进循环计算路线。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29422

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注