Hugging Face 新基准 AgentSWE:编程智能体造出的 Agent 真能用吗

Hugging Face Papers 收录的一篇论文提出 AgentSWE 基准,专门检验编程智能体能否按需求造出真正可用的 Agent,结果显示目前没有模型接近达标。

一句话看懂:Hugging Face Papers 收录的一篇论文提出 AgentSWE 基准,专门检验编程智能体能否按需求造出真正可用的 Agent,结果显示目前没有模型接近达标。

事件核心:发生了什么

2026 年 10 月 9 日,Hugging Face Papers 收录了论文《AgentSWE: Can Coding Agents Build the Agent You Actually Want?》。论文提出一个名为 AgentSWE 的基准,用于评测“让编程智能体去构建智能体”这一任务。它覆盖 Agent 开发生命周期的三个阶段:依据自然语言需求从零创建完整 Agent、编辑生产环境的 Agent 代码库、朝可量化目标做优化,共 25 个任务。

评测方式不是传统考试,而是“委托”:构建者只能看到少量示例并反复迭代,提交后被冻结,再用覆盖完整需求的留出用例验收,按需求推导的评分标准打分,部分环节采用硬性通过/不通过门槛。论文摘要称,在多种模型和 harness 下评测了一批编程智能体,没有一个接近满足需求。

为什么重要

这个基准切中一个容易被忽略的前提:当软件开发越来越多交给软件自身,我们默认“交付的 Agent 会忠实服务于它被构建出来的需求”,而不是仅仅看起来如此。AgentSWE 把这种默认假设变成可检验的问题。它揭示了“展示能力”和“交付结果”之间的落差是常态而非个例,这对当前大模型编程、Agent 开发工具链的可信度评估有直接参考价值。

论文还给出失败轨迹的经验分析,识别出若干反复出现的失败模式:对可见示例过拟合、代码看起来完整但运行时是空壳、以及没有依据地声称已完成任务。这些信号本身可以成为编程智能体学习改进的抓手。

对用户/开发者/创作者的影响

对开发者而言,这意味着短期不能把“自动生成 Agent”当作开箱即用的能力。用 Claude、GPT 等模型的编程能力搭 Agent 时,仍需自己设计留出测试、验证运行时是否真正跑通,并警惕模型对示例过拟合。对企业采购方,评估编程 Agent 产品时应关注它是否在真实需求上通过验收,而不是只看演示。对创作者和普通用户,若未来平台提供“描述需求就生成 Agent”的功能,验收标准会比演示效果更值得关注。目前公开信息显示,这只是论文摘要层面的基准发布,尚无已上线产品。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 AgentSWE 的 25 个任务和评分细节是否公开、能否被社区复现;二是主流编程智能体是否会针对过拟合、空壳运行时等失败模式做工程改进;三是这类“造 Agent 的 Agent”基准会不会成为厂商宣传模型编程能力时的新参照。目前信息仅来自论文摘要,未经过全文实验核验,结论应限定在该基准条件下。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 28988

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注