Artificial Analysis 发布端点准确率指数 v1.1:103 个端点中 24 个低于自托管参考

Artificial Analysis 于 2026 年 11 月 9 日更新端点准确率指数至 v1.1,收紧长上下文评测的置信区间,并新增 GLM-5.3 Flash 和 Muse Spark Open 两个模型;在 103 个无服务器端点中,24 个准确率统计上低于自托管参考。

一句话看懂:Artificial Analysis 于 2026 年 11 月 9 日更新端点准确率指数至 v1.1,收紧长上下文评测的置信区间,并新增 GLM-5.3 Flash 和 Muse Spark Open 两个模型;在 103 个无服务器端点中,24 个准确率统计上低于自托管参考。

事件核心:发生了什么

Artificial Analysis 发布 Endpoint Accuracy Index v1.1。本次升级主要改动 AA-LCR-25:数据集切到 1.1 版,修正两道题答案,换用新的判分模型,每题重复次数从 10 次提高到 25 次。在同时用两个版本评分的 48 个端点和参考部署上,AA-LCR-25 的平均 95% 置信区间从 ±4.7 点收窄到 ±2.6 点。BFCL-500 和 HLE-250 保持不变。覆盖模型新增 GLM-5.3 Flash 和 Muse Spark Open,DeepSeek V4.1 Flash 1017 替换 DeepSeek V4 Pro,GLM-5.2 退出。v1.1 结果测量时间为 2026 年 10 月 8 日至 11 月 4 日,仅代表该时段和给定评测条件下的表现。

为什么重要

同一模型在不同服务商端点上的准确率并不一致。提供商为优化速度和成本,会做权重量化、定制推理内核、调整推理栈、限制输出长度,甚至出现 bug。该指数把每个端点评分换算为自托管参考的百分比,三项评测等权平均,并给出 95% 置信区间。v1.0 中长上下文评测噪声最大,可能掩盖工具调用和推理上的真实差异;v1.1 收窄置信区间后,开发者更容易区分端点差异是真实差距还是统计波动。对 API 选型来说,准确率可与其他指标并列比较,而不是只看价格和延迟。

对用户/开发者/创作者的影响

开发者调用大模型 API 时,可把端点准确率纳入采购和路由决策,尤其在对工具调用、科学推理和长上下文召回敏感的场景。v1.1 列出的低于参考原因包括输出 token 上限、推理 token 偏少、工具调用格式解析不一致,以及请求超时或流提前结束。这些多为服务商侧配置问题,换端点或调整请求参数可能改善结果。目前公开信息显示,AA-LCR-25 在 v1.1 下的原始分数不能与 v1.0 直接比较,跨版本对照需谨慎。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 GLM-5.3 Flash 有端点因输出上限约 32K token,HLE-250 约一半回答达到上限仍未给出答案,相关服务商是否调整输出配置值得观察;二是低于参考的端点是否修复工具调用解析和请求超时问题;三是长上下文评测重复次数提高后,其他榜单是否跟进类似方法收紧置信区间。

来源:Artificial Analysis

celebrityanime
celebrityanime
文章: 34138

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注