一句话看懂:Cerebras 已把“GPU 负责预填充、晶圆级引擎负责解码”的分离式推理投入生产,官方称同等功耗下每秒百万瓦生成的 token 数提升到 5 倍,解码速度保持不变。
事件核心:发生了什么
2026 年 11 月 17 日,Cerebras 发布博客称,其分离式推理已在 Cerebras Inference Cloud 上线。在该生产部署中,AMD Instinct GPU 处理 prompt prefill,Cerebras CS-3 系统负责逐 token 的 decode。Cerebras 给出的实测结果是:在相同超快生成速度下,每兆瓦 token 吞吐量为原来的 5 倍。这一方案也面向基础设施合作伙伴,可部署到其自有数据中心。结合此前发布的 CS-4、扩大的制造能力和计划中的 700MW 数据中心容量,Cerebras 希望到 2027 年及以后服务更多超快 token 需求。
为什么重要
分离式推理把推理的两个阶段拆给不同硬件:prefill 是计算密集型,GPU 擅长;decode 是内存带宽密集型,Cerebras 的片上 SRAM 架构更有优势。Cerebras 称其单芯片具备数十 GB SRAM 和数十 PB/s 内存带宽,约为典型 GB300 GPU 的 350 倍 SRAM 容量和 5400 倍带宽。在电力成为数据中心硬约束的背景下,这种分工直接提高每兆瓦可服务的 token 数,对推理服务商的收入和容量规划都有意义;同时它把 Cerebras 的定位从“替代 GPU”调整为“与 GPU 互补”,可能影响其与云厂商、GPU 供应商的合作方式。
对用户/开发者/创作者的影响
对调用 Cerebras Inference Cloud 的开发者来说,目前公开信息显示主要变化是供给能力提升,而不是接口或价格调整。更多超快 token 容量有助于缓解高并发场景下的排队,对需要低延迟响应的 agentic 应用(如代码补全、交互式 Copilot 类工具)更友好。创作者若使用依赖快速推理的生成工具,可能感受到响应更稳定,但这取决于具体产品是否接入 Cerebras 云。企业采购方则需注意:分离式方案要求同时具备 GPU 与 Cerebras 系统,部署门槛和成本结构与传统 GPU 集群不同。
值得关注的后续
一是 5 倍能效数据的具体测试条件与模型范围,目前仅来自官方博客,缺少第三方复现;二是除 AMD Instinct 外,是否会支持更多 prefill 加速器,以及合作伙伴数据中心的实际上线时间;三是定价是否随吞吐提升而下调,以及云厂商是否推出类似 prefill/decode 分离方案跟进。


