一句话看懂：超节点把数十到上千颗 AI 芯片纳入同一高速互联域，试图解决多机通信拖慢大模型的问题；但当 72 卡、384 卡、1024 卡成为发布会卖点，行业开始转向追问：更多芯片是否真能换来更快的推理速度。
事件核心：发生了什么
过去一年多，AI 基础设施的展示重点从“拥有多少 GPU”扩展到“能把多少芯片连成一台计算机”。英伟达 GB200 NVL72 把 72 颗 Blackwell GPU 接入同一 NVLink 域；华为 2025 年 4 月发布 CloudMatrix 384，2026 年 7 月展示 1024 卡 Atlas 950 SuperPoD，提供 256TB 全局统一内存编址；浪潮信息推出元脑 SD200 Ultra，以 128 芯本土 AI 芯片构建紧耦合系统，提供 8TB 统一编址显存，称可单机运行 2.8 万亿参数的 Kimi K3，Token 生成时延约 5.85 毫秒（单用户约 170 Tokens/s）。
为什么重要
大模型跨服务器通信的成本已开始反向影响模型设计。DeepSeek 2025 年 5 月发表的架构论文披露，其 H800 系统中节点内 NVLink 有效带宽约 160GB/s，跨节点 InfiniBand 约 40GB/s，相差约四倍，团队因此限制每个 Token 的专家跨节点数量。超节点的意义是把更多计算和显存组织进同一紧耦合域，减少数据搬运与等待。但浪潮信息首席 AI 战略官刘军提醒，规模扩大后通信成本和故障放大效应也会上升，“规模不重要”，关键是匹配要跑的模型。这也意味着竞争从采购规模转向互联、内存编址与软件调度的系统能力。
对用户/开发者/创作者的影响
对开发者和企业选型而言，“支持多少万亿参数”不足以判断服务能力。权重精度、上下文长度、并发请求、KV Cache 以及 MoE 专家分布，都会改变显存和互联需求；单请求低时延与高并发吞吐也不一定指向同一套配置。训练看重扩展效率，推理还要兼顾首 Token 时延和总吞吐。目前公开信息显示，统一寻址可降低访问门槛，但不等于远端显存与本地同价，拓扑、跳数和拥塞仍影响实际性能。采购时还应核算机房供电散热、运维和故障恢复成本。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是各厂商能否公开目标模型上的时延、吞吐与并发实测，而不只展示最大卡数；二是统一寻址方案在真实 MoE 推理和长程 Agent 任务中的稳定性与恢复能力；三是国产超节点在软件适配和生态工具上的跟进速度。
来源：InfoQ CN
