LLM 会话上下文该常驻还是裁剪?arXiv 论文提出容量化组合优化模型

arXiv 2026 年 10 月 9 日发布的一篇 cs.AI 论文,把 LLM Agent 每次会话固定加载的 AGENTS.md 等上下文文件建模为“容量化组合问题”,并指出不断追加指令可能让净收益越来越差。该研究目前仅为论文摘要,尚无产品落地信息。

一句话看懂:arXiv 2026 年 10 月 9 日发布的一篇 cs.AI 论文,把 LLM Agent 每次会话固定加载的 AGENTS.md 等上下文文件建模为“容量化组合问题”,并指出不断追加指令可能让净收益越来越差。该研究目前仅为论文摘要,尚无产品落地信息。

事件核心:发生了什么

这篇论文关注一个很具体的工程现象:LLM Agent 在每轮会话开始时会加载一份固定上下文文件,例如 AGENTS.md。文件里的每个 token 在后续每一轮都会重复计费,文件变大后还可能拖累模型表现。但现实中,人工或自动维护者往往采用“追加”的方式扩充这类文件。

作者将上下文维护形式化为“容量化组合问题”:指令占用有限注意力容量,新增一条指令不会提升其他指令的遵循度,保留的指令则带来按会话计算的固定成本。摘要称,论文证明了一个与候选指令数量无关的最优文件规模上界,并说明把所有单独有价值的指令都追加进去,其净收益可能远差于选择一个最优子集。此外,token 预算也能限制低估 token 价格时的损失。论文还讨论了从历史会话中学习增删指令,并指出反馈存在删失:已加载指令的好处与坏处可被观察,而未加载指令只有在“缺失导致损害”时才产生反馈。

为什么重要

AGENTS.md、系统提示词、工具说明等常驻上下文,正在成为 LLM Agent 开发中的隐性成本中心。每一轮推理都要为这些 token 付费,同时它们还会挤占模型的注意力容量。如果论文结论成立,那么“把能想到的规则都加进去”就不是稳妥策略,反而可能让真正重要的指令被稀释。

对行业而言,这提供了一个从“提示词写作经验”走向“上下文资源分配”的视角:上下文不是免费的静态配置,而是有容量、有成本、有反馈的学习对象。它也可能影响 Agent 框架、可观测性工具和上下文管理 API 的设计方向。

对用户/开发者/创作者的影响

对开发者来说,短期可操作的建议不是照搬论文结论,而是检查自己的 Agent 配置文件:是否把低频规则长期常驻?是否每次会话都重复加载大量无关说明?论文摘要提到,从真实上下文文件中抽取的无关规则会降低语言模型的遵循度,这说明精简可能有直接收益。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对创作者和企业采购者而言,在评估 Agent 产品或自建方案时,可以关注其是否提供上下文版本管理、按需检索、指令淘汰和效果回测能力。如果上下文维护仍靠手工追加,长期成本与行为退化风险都更难控制。目前公开信息显示,该研究尚未对应任何已发布工具或 API。

值得关注的后续

一是论文全文是否给出完整的实验设置、数据集与可复现结果,尤其是“无关规则降低遵循度”的评测条件。二是社区是否会据此形成上下文裁剪、指令增删或 token 预算分配的开源实现。三是主流 Agent 框架是否会引入上下文容量管理、反馈删失处理和人工审核预算等机制。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 28553

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注