机房堆满算力卡,业务却还在排队?这份评估报告拆开了“算力荒假象”的破局账本

IDC 发布《中国 AI 算力管理平台技术能力评估,2026》,范式智能综合排名第一,四个维度满分。报告折射出的现实是:企业买卡容易,把异构算力真正调度成业务可用的服务却很难。

一句话看懂:IDC 发布《中国 AI 算力管理平台技术能力评估,2026》,范式智能综合排名第一,四个维度满分。报告折射出的现实是:企业买卡容易,把异构算力真正调度成业务可用的服务却很难。

事件核心:发生了什么

这份评估围绕资源管理、服务管理、运维、技术架构、业务场景支撑与交付服务六个维度展开,范式智能在资源管理、运维、技术架构及交付服务四项拿到满分,综合评分位列第一。范式智能即此前的第四范式。

报告指向一个被忽视的断层:过去一年多,企业批量采购英伟达 GPU 以及昇腾、海光、寒武纪、壁仞等国产 AI 芯片,账面算力上去了,业务侧却仍在排队。原因集中在三点——不同芯片的驱动、编译环境与推理引擎互不相通,形成各自独立的“烟囱集群”;按整卡分配的调度方式让轻量推理任务独占大卡,造成“资源假溢出”;进入 Agent 阶段后,模型调用变成高频、长链路的脉冲式洪峰,静态预留资源难以匹配。

范式团队主要贡献的开源调度器 HAMi 已于今年 7 月晋升为 CNCF 孵化级项目,聚焦动态弹性切分与调度资源误判问题。

为什么重要

这意味着 AI 基础设施的竞争重心正在从硬件规格转向软件调度能力。在供应链多元化背景下,企业很难只押注一种芯片,“不绑定芯片、能做跨芯片抽象”的平台价值上升。IDC 把第一名给到全栈调度方向的厂商,同时中国调度方案进入 CNCF 主流路径,目前公开信息显示,行业对精细化切分的共识正在形成。另一层变化是度量方式的迁移:从“按卡时租机器”转向“按 Token 用量计费”,业务部门关心的是吞吐、延迟和单次推理成本,而非机房插了什么卡。

对用户/开发者/创作者的影响

对开发者和企业采购方,评估维度可作为选型参照:能否做细粒度切分与安全隔离、是否支持成组调度(PodGroup 模式,“要么全部满足,要么一个不派”)、是否提供跨芯片的中立抽象。范式的落地形态是“独占、共享、超分”三轨资源池:核心训练走独占池保稳定,高并发推理进超分池榨取弹性。据素材,某大型政策性银行借此在两地三中心合规要求下打通异构算力池。其 API 业务 2026 上半年收入 4.64 亿元,同比增长 860.8%,背后依赖 HAMi vGPU 把 GPU 综合利用率从不足 30% 提升至 70%—90%。对调用 API 的创作者而言,这意味着同等硬件下可用推理产能更充足,单位 Token 成本有下降空间。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 HAMi 进入 CNCF 孵化后,能否吸引更多芯片厂商和云厂商接入,形成跨厂商的调度事实标准;二是“卡时+Token”双轨计量会不会被更多平台采用,进而改变企业 AI 预算的核算方式;三是这套调度能力在超大规模集群和真实 Agent 洪峰下的稳定性表现,目前公开信息仍以单一评估和厂商披露为主,需观望第三方验证。

来源:InfoQ CN

celebrityanime
celebrityanime
文章: 26467

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注