PAR方法让0.5B模型在512步状态追踪达95.5%,远超训练长度16倍

Hugging Face Papers 上的一篇论文提出 Progress-Aligned Recurrence(PAR)训练方法,让循环语言模型在远超训练长度的序列任务上保持准确率,而单纯增加推理迭代次数并不自动带来这种能力。

一句话看懂:Hugging Face Papers 上的一篇论文提出 Progress-Aligned Recurrence(PAR)训练方法,让循环语言模型在远超训练长度的序列任务上保持准确率,而单纯增加推理迭代次数并不自动带来这种能力。

事件核心:发生了什么

据 Hugging Face Papers 发布的论文摘要(原始时间为 2026 年 10 月 20 日),研究者指出,Looped 语言模型虽然可以在测试阶段多跑几轮迭代,但多加的迭代未必能帮它解决更长的问题。在顺序状态追踪任务中,只监督最终答案无法告诉每一轮迭代该推进到哪一步,反复更新还会改变循环状态的数值尺度。

为此论文提出 PAR:第 k 轮迭代的预测被训练去匹配前 k 次操作后的状态,同时把循环状态重新缩放到首轮迭代的范数。摘要给出的数据显示,在 swap-S_5 任务上,基于 Qwen2.5-0.5B、训练时最多 32 步的模型,在 512 步时平均全状态准确率为 95.5%,相当于训练长度的 16 倍;同一骨干下摘要引述 RLT 为 55.7%,显式思维链为 0.8%。消融实验显示,去掉范数锚定后外推倍数从 16 倍降到 2.2 倍以下;用最终答案监督替换进度对齐目标,外推最高只到 8 倍。

为什么重要

这触及循环深度模型的一个核心假设:更多计算轮次是否等于更强的问题求解能力。摘要的结论是,额外迭代要真正有用,需要同时训练中间预测和状态尺度。若这一结论在更多任务上成立,它会影响大模型在长序列推理、状态机模拟等场景的训练设计,也让 0.5B 级小模型的可用边界成为一个值得观察的方向。需要注意的是,以上均来自论文摘要,尚未核验全文实验,也不代表已有产品上线。

对用户/开发者/创作者的影响

对开发者而言,PAR 提示了一个可复用的训练思路:与其只对最终输出做监督,不如设计阶段化的中间目标,并控制循环状态的数值尺度。摘要还提到,在缺少中间标签时可用前缀自蒸馏,只凭最终答案从较短问题前缀中诱导出对应关系,这降低了构造训练数据的门槛。对应用方来说,这类研究目前属于方法论层面,距离可调用的 API 或开源权重仍有距离,不宜据此评估具体产品的长序列能力。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文全文与社区复现能否在 swap-S_5 之外的状态追踪任务上复现 16 倍外推;二是范数锚定和进度对齐目标能否迁移到更大模型和通用语言任务;三是是否有开源实现或训练框架跟进,让开发者实际验证前缀自蒸馏的效果。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29572

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注