ProD蒸馏法提升小模型智能体效率,缓解长任务停滞循环

Hugging Face Papers 收录的一篇论文提出 Progress-Aware Distillation(ProD),针对小语言模型智能体在长轨迹任务中陷入反复失败循环的问题,在蒸馏阶段检测并惩罚停滞行为。据摘要,该方法在 8 个 0.6B 至 8B 参数模型上进行了测试,但论文全文实验细节尚未核验…

Hugging Face Papers 收录的一篇论文提出 Progress-Aware Distillation(ProD),针对小语言模型智能体在长轨迹任务中陷入反复失败循环的问题,在蒸馏阶段检测并惩罚停滞行为。据摘要,该方法在 8 个 0.6B 至 8B 参数模型上进行了测试,但论文全文实验细节尚未核验…

Hugging Face Papers 上的一篇论文提出 ECHO:让骨干模型最后一层自己预测多个未来 token,并用动态深度采样控制训练成本,省掉多 token 预测(MTP)常设的辅助模块和额外前向。若结论成立,多 token 预测会更像训练目标的一部分,而不是外挂任务。

alphaXiv 收录的论文提出 WildAWM,一套用开源模型合成 GUI、MCP 与命令行三合一电脑环境及任务的流水线,生成 341 个长程任务对,并在其上训练 Qwen 模型验证跨任务迁移。

一篇发表于 Hugging Face Papers 的论文摘要指出,同一批约 5.3 万条提示用两种“不安全”定义分别标注、训练出的十个护栏模型,在同一基准上的分数差距可达 23 倍,说明部分安全评测衡量的其实是标签里的政策定义,而不是模型本身的检测能力。

alphaXiv 于 2026 年 10 月 17 日展示的论文提出 Muse Glimmer——一个 30B 参数、Apache 2.0 许可的开源因果语言模型,主打在消费级硬件上本地运行多步推理与工具调用,并以约 4-bit 量化降低单卡推理门槛。

Hugging Face Papers 收录的论文提出 StopLoss,一个基于完成轨迹和验证结果训练的小型外部监控器,可在编程智能体大概率失败时提前终止运行,以更低成本换取资源节省。

alphaXiv 收录的一篇论文提出 Agima 训练框架:用一个同时负责语言推理与图像生成的全能模型,先“想象”动作后果再决定执行;在 Sokoban 等任务中,这种训练方式优于只看动作历史、不做想象的规划器。

Hugging Face Papers 于 2026 年 10 月 15 日收录论文摘要,提出基于 LIBERO 的新基准 LIBERO-Industry,用 216 个任务系统考察产品变体、物料流动、有限执行窗口和几何公差等工业约束对通用机器人策略的影响。

Hugging Face Papers 收录的论文 ACEdit 提出一种新的训练方案,针对多轮图像编辑中编辑质量逐步下降的问题,通过让模型在自己的输出上训练,并用教师模型提供监督信号,在论文摘要所述的实验中明显减少长序列编辑的退化。

一篇发表于 Hugging Face Papers 的论文提出训练自由方法 MARS,尝试只从 LLM 主干中提取“文本拒绝方向”,就为图像、视频等多模态输入注入安全约束,从而绕开多模态安全数据难收集的问题。