昇腾NPU内核优化新基准AscendGYM:48个真实负载内核,引入STS评分

arXiv 新论文提出 AscendGYM,一个面向昇腾 NPU 的内核优化基准,初始含 48 个内核、三级难度,测试用例取自真实训练与推理负载,并引入兼顾加速比与 token 成本的 STS 指标。

一句话看懂:arXiv 新论文提出 AscendGYM,一个面向昇腾 NPU 的内核优化基准,初始含 48 个内核、三级难度,测试用例取自真实训练与推理负载,并引入兼顾加速比与 token 成本的 STS 指标。

事件核心:发生了什么

根据 2026 年 11 月 16 日挂出的 arXiv 摘要(编号 2611.17621),研究团队推出 AscendGYM。与以往偏重“从零生成内核”的昇腾基准不同,它关注智能体在真实输入配置下优化已有内核实现的能力。基准初始包含 48 个内核,按三个难度级别划分,每个内核配套的测试用例在数据类型和张量形状上采集自真实训练与推理任务,因此基准上的性能提升可对应到相应工作负载。评估支持模型评估与模型-框架评估两种模式,并提供贴近实际管线调用方式的执行环境;模型评估模式内置带搜索编排和经验积累的 harness。团队还提出 Speedup-Token Score(STS),把加速比与 token 开销放在一起衡量预算内的实际优化能力。代码已在 GitHub 开源。

为什么重要

大模型训练和推理的成本很大程度取决于内核质量。昇腾生态此前缺少以“真实负载下优化已有实现”为目标的公开基准,AscendGYM 补上了这一环:它把评测从生成能力转向工程优化能力。STS 的引入也有实际意义——只比加速比容易忽略智能体反复搜索消耗的算力与 token,而这两者最终都会转化为成本。

对用户/开发者/创作者的影响

对做昇腾适配和推理优化的开发者,这是一个可对照的公开测试集,便于比较不同智能体或 harness 的工程效果。对使用昇腾算力的企业,STS 提供了按预算评估优化收益的思路。目前公开信息仅为论文摘要,尚不能据此判断各方案的实际排名,也未核验全文实验细节和结果稳定性。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是基准是否扩展到更多内核和真实业务场景;二是社区是否用它横向比较不同智能体框架;三是 STS 能否被其他硬件平台的基准借鉴,形成跨平台的成本感知评测口径。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 35292

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注