Co-Design Bench发布:273个真实多模态改码任务,最强模型仅完成26.4%

Hugging Face Papers 收录的 Co-Design Bench,用 273 个源自真实用户会话的多模态改码任务,测试编程智能体能否把普通人的需求真正做成可用修改;初步结果显示,即便最强模型端点也只能完整满足 26.4% 的任务,值得关注的是“部分合格”和“真正可用”之间的差距。

一句话看懂:Hugging Face Papers 收录的 Co-Design Bench,用 273 个源自真实用户会话的多模态改码任务,测试编程智能体能否把普通人的需求真正做成可用修改;初步结果显示,即便最强模型端点也只能完整满足 26.4% 的任务,值得关注的是“部分合格”和“真正可用”之间的差距。

事件核心:发生了什么

根据论文摘要,研究团队从 26,314 个真实用户编程会话、37,463 条去重查询中整理出 273 个任务,构建了无需参考答案的 Co-Design Bench。评测分两条轨道:多模态编辑(ME)考察带图像、音频、视频或文档输入的局部修改;仓库编辑(RE)考察跨模块的协同变更。任务覆盖“有依据的理解”“界面转换”“功能实现”三个能力维度,每个任务都配有可运行的应用和 2,331 条隐藏的专家验收标准。评分采用“先判后驳”协议:先用源码与浏览器证据判断标准是否满足,再由另一个 LLM 复核正判定,并在没有标准代码和目标截图的情况下审查视觉与交互声明。

为什么重要

现有编程评测多聚焦代码生成或单轮修复,而真实用户往往带着截图、录音和模糊描述来提需求。Co-Design Bench 把评测对象从“写出代码”推进到“理解多模态意图并完成可用修改”,更贴近 AI 编程助手进入实际工作流后的形态。另一个值得注意的发现是:在共享智能体框架下,十个模型端点逐个任务平均通过 69.9% 的验收标准,但完整满足全部标准的任务只有 26.4%。这说明模型的“局部能力”可能被高估,距离端到端交付仍有明显缺口。

对用户/开发者/创作者的影响

对开发者而言,这类基准会推动 AI 编程工具从“补全代码”转向“交付可验收的修改”,在选型时应关注多模态输入和仓库级改动的实际表现,而不只看单点代码通过率。对创作者和非技术用户来说,能用截图或语音描述需求固然方便,但评测提醒:模型部分理解需求不等于交付可用结果,人工验收仍不可省略。对开源和闭源模型厂商,多模态改码与复杂仓库编辑可能成为下一轮能力对比的焦点。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息仅为论文摘要,尚未核验全文实验,也未见独立复现。后续可观察三点:一是基准是否开源并接入更多智能体框架;二是多模态输入与跨仓库编辑上的失败模式是否被系统披露;三是模型厂商是否将该基准作为能力宣传或迭代依据。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 31194

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注