BizBench把”过程合规”纳入考试:Claude Opus 5严格成功率仅64%

Hugging Face Papers 收录的 BizBench 是一套面向支付业务的多轮长程 Agent 评测基准,不只考核任务是否完成,还检查执行过程中是否违反约束。摘要显示,Claude Opus 5 与 GPT-6 Sol 的严格成功率分别只有 64.0% 和 61.3%。

一句话看懂:Hugging Face Papers 收录的 BizBench 是一套面向支付业务的多轮长程 Agent 评测基准,不只考核任务是否完成,还检查执行过程中是否违反约束。摘要显示,Claude Opus 5 与 GPT-6 Sol 的严格成功率分别只有 64.0% 和 61.3%。

事件核心:发生了什么

目前公开信息显示,这篇论文于 2026 年 10 月 14 日发布在 Hugging Face Papers,提出 BizBench。它基于一家头部支付公司的真实业务流程构建可执行环境,整合 789 份知识文档和 601 个可发现的业务工具,并保证策略、状态与工具行为一致。基准包含 50 个任务,涉及资源限制、时间依赖、既有承诺,以及相互冲突或过时的政策指引。每个任务都有参考执行过程,评测用确定性检查同时看目标达成和执行有效性,但不规定唯一解法。摘要给出的结果中,严格成功率指同时满足目标与过程约束的比例。

为什么重要

现有长程 Agent 基准大多只看最终结果,而支付等高风险场景中,中间步骤违规可能直接造成资金损失或监管后果,最终成功并不能抵消过程错误。摘要数据也印证了这一点:Qwen3.8-27B 目标达成率 42.0%,严格成功率却降至 32.7%,说明仅看结果会掩盖无效执行。此外,DeepSeek-V4.1-Flash 平均每次运行调用 191.3 次工具,比参考执行多约 70%,执行开销本身也需要被纳入评估。对正在把 Agent 推向企业流程的团队来说,这类“过程合规”评测比单一排行榜更有参考价值。

对用户/开发者/创作者的影响

开发者如果用 API 搭建支付、退款、对账等业务 Agent,需要把策略校验、过时文档识别和冲突处理前置到执行链中,而不是等结束时验收。企业采购时可追问供应商是否提供过程级评测,而不只看任务完成率。创作者和普通用户短期内难直接接触该基准,但它提示:Agent 演示中的“跑通了”不等于“跑对了”。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 BizBench 是否开源环境与任务集,便于第三方复现;二是前沿模型在工具调用效率上能否收敛到参考水平;三是各方是否跟进过程合规指标,而非继续沿用结果导向榜单。以上结论仅基于摘要,论文全文实验细节尚未核验。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 29398

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注