8.31—9.6|本周顶级 AI 论文

本周值得关注的两篇 AI 论文分别从“降低长上下文推理成本”和“让编程智能体长期自主运行”两个方向提出新方案,前者让模型自己决定读取哪些缓存,后者用多角色循环把零散任务组织成可持续数天的开发流程。

一句话看懂:本周值得关注的两篇 AI 论文分别从“降低长上下文推理成本”和“让编程智能体长期自主运行”两个方向提出新方案,前者让模型自己决定读取哪些缓存,后者用多角色循环把零散任务组织成可持续数天的开发流程。

事件核心:发生了什么

Google DeepMind 团队发表的《Declarative Attention》提出一种新的注意力机制——声明式注意力。传统 Transformer 模型每生成一个 token 都要读取完整的 KV 缓存(Key-Value Cache),即便最终只关注其中极小一部分内容。例如,在百万 token 的长对话中查找一个细节,全局注意力层仍会对每个 token 重新读取全部历史。新方案让模型在思维链中输出“声明标签”,标明自己当前处于哪种读取模式:全局模式读取完整上下文,焦点模式只读取指定区域,局部模式仅读取最近输出。推理引擎将这些声明视为类似“工具调用”的指令,据此跳过大段缓存读取。实验数据显示,在 15 个长上下文任务上,Gemma-4-31B 的读取量下降 52.0%,Qwen-3.6-27B 下降 31.1%,准确率代价控制在 1 到 3 个百分点之间,且无需改变权重,属于零样本推理优化。

另一篇论文《Harness-of-Harness》则针对编程智能体“短期表现好、长期不可靠”的问题。该系统在现有编程框架外围加装一层编排——项目规划者把规格和累积测试证据转化为开发计划,开发者按计划编码,QA 测试者独立评估结果并生成证据包,下一轮迭代直接从这份证据包开始,而非从原始记录重新开始。测试被区分为“实现时测试”与“独立评估”两部分,防止智能体用自己预设通过的测试来评估自己的工件。在 GameCraft-Bench、FrontierSWE 和 ProgramBench 三项基准上,搭配三组不同模型组合,经三次迭代,相对独立运行平均提升 52.25%,最高达 82.86%。

为什么重要

这两项研究分别切中当前 AI 落地的两个真实瓶颈。长上下文推理的成本结构性问题,一直制约着智能体在大型代码库或长时间对话场景中的实际使用——每次调用都要重新处理全部历史,费用随上下文线性增长。声明式注意力的价值在于把“读哪些缓存”的决定权交给模型自身,用模型已经生成的文本做路由,比额外增加一层检索模型更省算力,直接降低了长上下文 API 的推理开销。而 Harness-of-Harness 则针对编程智能体从“演示可用”走向“长期可用”的工程差距——它不改变模型本身,而是改善任务组织方式,让系统能在无人介入的情况下持续工作数天,对于将 AI 编程能力嵌入真实研发流程有直接意义。

对用户/开发者/创作者的影响

对开发者而言,声明式注意力如果进入商用 API,意味着长上下文对话、文档分析类应用的 token 成本可能显著下降,尤其是需要频繁回溯早期信息的智能体场景。该方案在现成权重上零样本生效,意味着模型供应商无需重新训练即可部署,落地门槛相对较低。对于用 Claude、GPT 等模型做代码生成或自动化运维的团队,Harness-of-Harness 提供的多角色循环框架可以直接套用——它是位于现有编排之上的模式,不绑定特定模型,理论上可以接驳当前已有的开发流水线。普通用户短期内感知不直接,但这些技术若被云厂商采纳,会以更低的 API 价格或更稳定的 AI 编程产品形式间接体现。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,两篇论文均处于学术发布阶段,尚未披露商用时间表。后续观察点有三:一是 Google DeepMind 是否将声明式注意力集成到 Gemini 系列模型的推理服务中,以及实际价格调整幅度;二是 Harness-of-Harness 的多角色循环框架能否在 GitHub 上形成开源社区,吸引更多编排工具(如 LangChain、AutoGPT)主动接入;三是 Meta、Anthropic 等模型厂商是否会跟进类似的长上下文稀疏读取方案——如果多家属实跟进,长上下文推理的定价逻辑可能迎来一轮结构性调整。

来源:社区更新 · 2026-09-06

celebrityanime
celebrityanime
文章: 22106

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注