一句话看懂:Hugging Face Papers 2026年10月14日收录的论文提出 Function-Space Policy Optimization(FSPO),在单策略框架下用函数空间的历史分布做固定时序目标,替代持续同步更新的教师模型。据摘要,在5小时训练预算内,它于推理与工具使用基准上平均比最强基线高约4个百分点,Olmo3-7B-Instruct 的峰值内存从约70GB降到56GB。
事件核心:发生了什么
这篇论文针对的是带可验证奖励的强化学习(RLVR)训练推理模型时面临的一个细节问题:结果正确与否只给出一个标量分数,对整条回答轨迹的监督太粗。自蒸馏能提供更细的 token 级信号,做法是拿一个“有反馈的自我教师”去对比无辅助策略;但教师会跟着学生一起演化,目标不稳定,往往要额外加正则。
FSPO 的思路是把教师角色“冻结”在历史里:保存稀疏的历史下一 token 分布作为固定的时序目标,不需要再维护一个持续更新的教师网络。摘要还列出三项配套设计:特权分歧纠偏,压掉局部被高估的动作;可靠性自适应锚定,在自生成证据反复失败时加强参考监督;质量与覆盖感知的时序记忆,保留已验证行为并改善特权示范。
为什么重要
RLVR 是当前大模型推理能力训练的重要路线,但“稀疏奖励+自我蒸馏不稳”是工程上的常见痛点。FSPO 提出的是一种降低训练复杂度和显存的思路:少一个常驻教师模型,就少一份状态维护和显存占用。摘要中 70GB 到 56GB 的峰值内存差异,对想在有限算力上跑 7B 级模型强化学习的团队有参考价值。不过目前公开信息仅限摘要,实验细节、复现性和适用边界还需要读全文才能判断。
对用户/开发者/创作者的影响
对普通用户,这条消息短期没有直接产品变化。对训练侧开发者,值得留意的是“历史分布当固定目标”这个方向:如果后续开源实现可用,可能降低在单机或小集群上做推理强化学习的门槛。对使用 Olmo3-7B-Instruct 这类开源模型的团队,显存从约70GB降到56GB意味着硬件选择空间略大一些,但这只是摘要中的单一设定,不能外推为普遍收益。做 AI 应用和内容创作的人暂时不需要调整工具链。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是论文是否放出代码和完整实验配置,能否在摘要之外复现那约4个百分点的平均提升;二是“函数空间时序记忆”在更长训练、更大模型上是否仍然有效,显存优势会不会随规模缩小;三是是否有开源训练框架或云厂商把类似机制做进 RLVR 流水线。就目前信息看,这些都属于待观察项。


