一句话看懂：一篇 2026 年 10 月发布的论文系统测试了大模型在 KV 缓存被部分或全部删除后还能记住多少信息，发现事实类信息高度依赖原位置，情感类信息则更容易从后续提及中恢复。
事件核心：发生了什么
研究由 Kim 和 Khashabi 完成，发表于 alphaXiv，发布时间为 2026 年 10 月 25 日。作者没有提出新的压缩方法，而是直接检验一个问题：把 KV 缓存中某些 token 的键值记录删掉、其他条件不变时，模型自己生成答案还能保留多少信息。测试覆盖 8 个指令微调模型（0.6B 至 8B），另加 27B 和 30B 两个混合注意力模型。任务分为合成关联和 NIAH 两类：前者用 20 组实体—属性配对，后者把一条关联嵌入约 4096 token 的 Paul Graham 散文中，并加入对实体的后文再提及。目前公开信息仅来自摘要和论文页面，具体实验细节以原文为准。
为什么重要
长上下文应用普遍依赖 KV 缓存淘汰来控制显存和推理成本，但“删掉缓存”和“忘掉信息”并不是一回事。论文给出三个可检验的模式：当关联两侧的缓存都被删掉时，8 个主模型的事实回忆接近零，情感判断回落到从未出现该配对时的水平；只删一侧时，若保留的一侧在原上下文中出现得更晚，可部分恢复；情感信息能借助后文再次提到该实体得到一定弥补，事实信息则受益很小。这提示开发者，缓存淘汰策略若按位置粗略裁剪，可能对事实问答造成更直接的损伤。
对用户/开发者/创作者的影响
对 API 开发者和做长文档问答的团队来说，这条结论有直接的工程含义：不要把 KV 缓存淘汰当成无损压缩，尤其是人物—职业、对象—材质这类事实绑定。若产品需要保留事实，淘汰策略应优先保护关联对的完整位置，而非只保留单个 token。对内容创作者和终端用户，这意味着长对话中“前面提过的设定”可能比“前面表达过的态度”更脆弱；摘要、重述关键事实仍是最稳妥的补丁，但摘要本身也会引入信息损耗。目前不能据此推断任何具体产品的缓存策略或效果。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是后续是否会在更大模型和真实长上下文产品上复现相同的不对称性；二是缓存淘汰方案会不会从“按位置删”转向“按关联完整性保留”；三是论文所述情感可恢复性是否依赖特定任务格式，跨语言和跨领域是否成立。以上都需要完整论文和后续复现来验证。
来源：alphaXiv
