一句话看懂:阿里巴巴与多所亚洲高校用真实用户改动需求构建了 Co-Design Bench 评测,十款模型中最好的 GPT-6 Astra 也只在 26.4% 的任务中完全达标,说明编程智能体在真实场景仍普遍需要人工收尾。
事件核心:发生了什么
公开信息显示,研究团队从真实编程会话中筛选需求来构建 Co-Design Bench,题目包括从收据、表格或视频中提取数值并同步更新所有关联视图,也涵盖整体项目改造。测试的十款模型里,GPT-6 Astra 平均满足约 70% 的需求点,但任务完全正确率只有 26.4%;多模态任务完全解决率约 41%,仓库类任务不足 18%。Claude Opus 5 和 Qwen3.8-Max 分列其后,Grok 4.6 垫底。
评测采用严格打分:一个 AI 裁判先在浏览器中操作成品,另一个复核正分项并排查写死结果或假界面。论文同时指出,旧基准已被模型刷到接近满分,但在 Co-Design Bench 上差距超过 35 个百分点。
为什么重要
这组结果把“基准高分”和“真实可用”之间的落差摆上台面。当任务同时涉及布局、设计、交互和内容等多类修改时,所有模型表现都下降。增加算力也不必然补救:GLM-5.2 在较小改动上消耗约六倍于 GPT-6 Astra 的 token,得分反而更低。更值得注意的是,同一个模型换用不同 harness(读写执行代码的运行框架)后成绩可能从 75% 掉到 56%,领先关系也可能反转,因此只列模型的排行榜信息并不完整。
对用户/开发者/创作者的影响
开发者接入编程智能体时,应把模型与工作环境作为一对组合来验证,而不是只看模型名和榜单分数。团队采购或自建 AI 编程工具时,需要预留人工审查和收尾流程,尤其面对真实项目里相互交织的改动需求。创作者用这类工具生成原型后,也应逐项在运行环境里验证,避免被表面完成度误导。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
后续可观察三点:该基准是否被更多厂商纳入评测,模型与 harness 的组合结果是否成为报告标准,以及真实会话中的追问和返工能否被纳入下一版测试。目前公开信息仅为论文摘要层面的结果,尚不能据此对模型做长期排名判断。


