Hugging Face新论文提出缓存工程:让智能体直接管理KV缓存,P95延迟最高提速1.5倍

2026年10月20日发布于Hugging Face Papers的一篇论文提出“缓存工程”方案,让LLM智能体直接操作KV缓存,而不必裁剪或总结历史轨迹;摘要显示,该方案在部分测试中平均成本降低27.7%,并配套AKV推理引擎实现最高1.5倍P95延迟加速。

2026年10月20日发布于Hugging Face Papers的一篇论文提出“缓存工程”方案,让LLM智能体直接操作KV缓存,而不必裁剪或总结历史轨迹;摘要显示,该方案在部分测试中平均成本降低27.7%,并配套AKV推理引擎实现最高1.5倍P95延迟加速。

Hugging Face Papers 收录的一篇论文提出“未来块预测”(FCP),在教师强制训练之外增加预测时间上相隔片段的辅助目标,声称能以更低训练算力提升自回归视频生成的物理合理性。

Hugging Face Papers 于2026年10月21日收录一篇论文,提出“以记忆为中心的持续学习”(MCCL),主张用未来行动表现而非检索准确率来评价AI Agent的记忆系统。目前仅为摘要信息,未核验全文实验。

Hugging Face Papers 收录的 EAU 论文提出一种让环境、智能体和用户模拟器共同进化的训练框架,在多轮交互任务上把整体得分比最强基线提高 14.7%–15.0%。它值得关注,因为多轮 LLM 智能体训练的信号不稳定问题,终于有人从“改训练系统”而不只是“改奖励函数”入手。

Hugging Face Papers 收录的一篇论文指出,大模型在单次提示里组合多个任务时错误率明显上升,原因可能是模型对每个任务分配的“隐式思考预算”被压缩,而非单纯误差累积。

Hugging Face Papers 收录的论文 Ask-to-Distill 提出一种无需标准答案、用分布信号评估并生成合成问题的方法,旨在提升在线蒸馏(OPD)的训练效率,值得关注小样本蒸馏路线的开发者留意。

Hugging Face Papers收录的论文RiseHarness提出,在不改动模型权重的前提下,通过分析同一配置下成功与失败运行之间的差异,迭代改进终端智能体的执行框架,以缩小“能跑通一次”和“稳定跑通”之间的差距。

Hugging Face Papers 收录的论文 HarnessRL 提出一种与策略共同进化的“训练支架”,用来缓解开放式强化学习中基于评分标准的奖励随训练失效的问题,并在其自建的多领域评测集上报告了有限幅度的提升。

一篇待核验全文的论文摘要显示,在 Terminal-Bench 2.1 的 21 个留出任务上,给 Claude Sonnet 5.5 终端 Agent 外挂 Jev 1.13 决策模型后,单次尝试成本上升 19%,通过率却维持在 73.0%。这说明“会判断”和“能指导行动”之间还有明显落差。

一个名为 GIST 的自适应图像分词器,在控制压缩后像素误差之外,新增了一个独立的“语义保真”目标,让开发者能决定一张图压缩后保住多少含义,而不只是像素细节。据作者论文摘要,它在 ImageNet-100 上的重建质量优于此前的 KARL 方案。