一句话看懂：SkyPilot 在 2026 年 10 月发布的一篇技术博客指出，NVIDIA NVL72 把单机架的 72 块 GPU 通过统一 NVLink 连接起来后，传统调度器如果忽视拓扑、把多节点任务铺到多个机架，仍然会受 InfiniBand 瓶颈限制；通过拓扑感知调度和机架内故障恢复，同一机架上可用的 GPU 数量可提升约 27%。
事件核心：发生了什么
这篇博客来自 SkyPilot，核心是讨论大规模训练和推理中的通信瓶颈。文中给出两个关键数据：Hugging Face 的实测显示，把训练任务从 NVLink 迁到 InfiniBand 后，吞吐量下降约 43%；在以 64 路专家并行训练 MoE 模型时，all-to-all 通信在 InfiniBand 上最多可占训练时间的 60%。NVL72 的价值在于用机架级 NVLink 代替跨机 InfiniBand 来承载张量并行和专家并行的关键通信。但前提是任务被调度在同一机架内，而节点故障和任务错峰释放会让空闲容量在机架之间碎片化。SkyPilot 称其平台通过拓扑感知放置、原地故障恢复和自动碎片整理来保持机架局部性，从而在相同机架上把可用 GPU 数量提升约 27%。
为什么重要
这揭示了一个容易被忽略的事实：买到 NVL72 不等于用好 NVL72。算力集群的瓶颈正在从“有没有 GPU”转向“GPU 之间怎么连、任务怎么放”。张量并行和 MoE 的 all-to-all 通信处于训练关键路径，一旦跨机架就会明显拖慢吞吐。对云厂商和自建集群的团队来说，调度器如果不懂网络拓扑，机架级互联的带宽优势就会被浪费，集群有效利用率也会被故障和碎片持续侵蚀。
对用户/开发者/创作者的影响
对训练大模型的团队，评估集群时不能只看 GPU 数量和标称带宽，还要看调度层是否支持机架感知、能否在节点故障后原地恢复；对使用云端 GPU 的开发者，这类能力可能影响可用容量、排队时间和单位算力成本；对推理服务提供方，机架局部性同样关系到多卡并行推理的延迟表现。目前公开信息显示，博客主要阐述 SkyPilot 平台的能力与设计思路，27% 这一数据是在“相同机架”条件下得出的，并非所有环境的通用提升。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 SkyPilot 的拓扑感知调度是否在更多云环境和集群规模上公开验证，27% 的结论能否复现；二是主流调度器如 Kubernetes 生态是否跟进机架级拓扑感知；三是 NVL72 类系统在实际故障场景下的原地恢复与碎片整理效果，这决定机架级互联的真实投资回报。
来源：skypilot.ai
