一句话看懂:Artificial Analysis 上线了 Cognition 的 FrontierCode 1.1 代码评测排行榜,考察 AI 模型改动的开源代码能否被维护者真正合并。领先模型仍有超过 40% 的尝试被判定不合格。
事件核心:发生了什么
2026 年 10 月 12 日,Artificial Analysis 宣布将 Cognition 的 FrontierCode 1.1 作为独立排行榜上线。该基准由 Cognition 与 36 个开源仓库的维护者共同构建,每个任务要求智能体对一个真实开源仓库做出改动,再由确定性测试和 LLM 评审判断这次改动是否达到可被维护者合并的标准。
Artificial Analysis 评测了 FrontierCode 1.1 Main 的 100 个任务,每个任务尝试 3 次,所有模型统一跑在开源智能体框架 Stirrup 中,每次尝试上限 250 轮。评分不只看测试是否通过,还会检查改动范围是否过大、是否动了无关文件、是否添加无用测试等行为。结果在原文日期和条件下,Claude Opus 5.5(max with fallback)以 52% 的平均分和 58% 的通过率居首,GPT-6.1 Sol(max)与 Claude Fable 5.1(max with fallback)以 49% 紧随其后。九个模型集中在 43%—52% 之间,开源权重模型 MiMo-V2.6-Pro 以 45% 领先同组。
为什么重要
过去不少代码评测以单元测试通过率或题目正确率为核心,但真实开源协作中,维护者关心的不只是“能不能跑”,还包括补丁是否克制、是否尊重项目边界、是否增加维护负担。FrontierCode 把“可合并性”作为评分对象,更贴近代码智能体从演示走向生产协作时的实际门槛。
目前公开信息显示,头部模型失败率仍超过 40%,说明在需要理解仓库上下文、遵守维护者规范的任务上,模型能力与真正交付之间还有差距。同时成本差距被明显拉开:Claude Fable 5.1(max with fallback)每任务约 12 美元,而 GPT-6.1 Sol(max)以约 0.81 美元取得 49% 的成绩,性价比成为选型时无法回避的维度。
对用户/开发者/创作者的影响
对开发者而言,这意味着把 AI 代码智能体接入真实仓库时,仍需保留人工审查和清理环节,尤其在改动范围控制、测试合理性和文件权限边界上。对使用 API 构建 AI 应用的团队,FrontierCode 的分数和每任务成本可以作为选型参考,但要注意它衡量的是特定仓库协作任务,不等同于通用编程能力。对开源维护者,这类评测提供了与模型供应商沟通的客观依据:哪些行为模式是高频扣分项,能否在工具链层面约束。对企业采购方,排行榜中价格与分数的分布表明,最贵模型未必是唯一选择,中等成本模型已能接近头部水平。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
其一,FrontierCode 1.1 计划被纳入 Artificial Analysis 的 Coding Agents 排行榜,届时能否与更多实际开发场景指标交叉验证。其二,100 个任务中有 9 个没有任何模型在任何尝试中通过,这些“无人区”任务反映了哪些能力缺口,值得跟踪。其三,各模型在成本与分数上的帕累托前沿是否会在后续版本中移动,尤其是开源权重模型能否缩小与闭源头部模型的差距。


