Reframe 提出对齐观察状态的多教师蒸馏框架,瞄准视觉智能体工具使用短板

Hugging Face Papers 于 2026 年 11 月 9 日收录论文 Reframe,提出把“工具返回的观察状态”而非仅输出分布作为对齐对象,用两阶段后训练框架改善视觉智能体的工具使用与蒸馏效果。

一句话看懂:Hugging Face Papers 于 2026 年 11 月 9 日收录论文 Reframe,提出把“工具返回的观察状态”而非仅输出分布作为对齐对象,用两阶段后训练框架改善视觉智能体的工具使用与蒸馏效果。

事件核心:发生了什么

论文作者指出,智能体强化学习(Agentic RL)与多教师同策略蒸馏(MOPD)是两条互补的后训练路径,但视觉智能体在调用工具时面临两个问题:模型可能忽略有价值的工具返回观察,动作依据不足又会限制后续蒸馏可用的证据。为此,Reframe 设计了两阶段框架。第一阶段 GD-GRPO 用证据感知奖励和随机移除原始视觉输入,训练空间与时序专家更依赖工具返回的证据;第二阶段 OG-MOPD 在 rollout 过程中用规范动作替换效果不佳的工具动作,并从修复后的观察继续蒸馏。作者称两阶段均不需要任务特定的 SFT 冷启动,并在 14 个图像与视频基准上做了实验。

为什么重要

当前多模态智能体的竞争焦点正从“看得懂”转向“会用工具查证”。如果模型忽略截图、检索结果或视频帧返回的信息,再强的推理也缺少证据链。Reframe 把观察状态纳入对齐目标,等于把工具调用质量纳入训练信号,这对 agentic RL 和多教师蒸馏的工程路线都有参考价值。作者报告 Reframe 在上述基准上优于 Mix-RL 与原始 MOPD,消融显示 GD-GRPO 相比基于结果的 GRPO 提升了观察依赖与工具增益。不过目前公开信息仅为论文摘要,尚未核验全文实验细节,也未说明是否已开源代码或模型。

对用户/开发者/创作者的影响

对开发者而言,这类方法指向更可控的视觉智能体训练:与其只优化最终答案,不如让模型学会判断“哪一步工具动作值得信任”。若后续代码开放,做图像理解、视频问答和 GUI 操作类 AI 应用的团队可关注 GD-GRPO 的奖励设计与 OG-MOPD 的 rollout 修复流程。对普通用户,短期不会出现可直接使用的产品变化;对创作者,若未来用于视频检索与素材整理类工具,模型更重视工具返回内容可能减少“答非所问”的情况,但目前仍属研究阶段。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是作者是否发布代码、模型权重或完整实验配置,让社区复现 14 个基准的结果;二是 Reframe 在真实工具环境(如浏览器、API 调用)中的稳定性是否优于摘要所述;三是多教师蒸馏路线是否被更多视觉智能体项目采用,以及是否出现与闭源模型后训练流程的对比。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 33883

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注