颠覆认知!摆脱独立显卡束缚,阿里5nm RISC-V芯片成功原生跑通270亿大模型

阿里达摩院玄铁 C950 芯片在无 GPU、无模拟层的条件下,原生跑通了通义千问 3.8-27B 大模型,这是 RISC-V 架构首次独立完成 270 亿参数模型的推理任务。

一句话看懂:阿里达摩院玄铁 C950 芯片在无 GPU、无模拟层的条件下,原生跑通了通义千问 3.8-27B 大模型,这是 RISC-V 架构首次独立完成 270 亿参数模型的推理任务。

事件核心:发生了什么

达摩院今年 3 月发布的旗舰 CPU 玄铁 C950,近期完成了一次关键验证:在完全脱离独立显卡和模拟层的情况下,直接驱动通义千问 3.8-27B 大模型完成推理。玄铁 C950 是台积电 5nm 工艺制造的 64 位服务器级处理器,最多集成 64 个计算核心,通过 AMBA CHI 总线互联,最高主频 3.2GHz。相较前代 C920,其内存带宽提升超过 4 倍,并内置了面向 AI 推理优化的矩阵加速引擎和向量加速引擎。在 SPECint2006 基准测试中,该芯片单核通用性能超过 70 分,刷新了 RISC-V CPU 的全球性能纪录。

实际运行中,玄铁 C950 驱动通义千问 3.8-27B 的解码速度为每秒 30 tokens,首个 token 延迟稳定在 1.9 秒以内。而这类规模的大模型传统上需要 16GB 至 24GB 的专用 GPU 显存。

为什么重要

这次突破的核心意义在于技术路线的独立性。RISC-V 是开源指令集架构,与需要支付高额授权费的 x86 和 ARM 不同,阿里对玄铁芯片架构、通义模型家族以及云计算基础设施拥有完整控制权。从底层芯片设计到顶层模型推理的全链路自主,意味着未来模型运营商可以根据硬件特性深度重写推理逻辑,后续芯片也能依据生产环境中的真实数据定制专用指令集。这为 AI 算力基础设施的多元化提供了新的可能性,而不是继续依赖英伟达 GPU 主导的封闭生态。

对用户/开发者/创作者的影响

对普通用户而言,短期内最直接的感知是推理成本可能下降。如果 RISC-V 芯片能在服务器端承担更多推理负载,云服务商对 GPU 的依赖降低,大模型 API 的调用价格存在下调空间。对开发者和企业技术决策者来说,这意味着未来部署开源模型时多了一个可选项:不再必须采购昂贵且供应紧张的 GPU 服务器,而是可以评估基于 RISC-V 的 CPU 推理方案。不过,目前这一验证仍处于早期阶段,实际部署的稳定性、生态工具链成熟度以及大规模并发场景下的表现,都还需要更多数据支撑。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,玄铁 C950 跑通 27B 模型属于技术验证性质。后续值得关注三点:第一,玄铁 C950 是否会在阿里云上以实例形式对外开放,定价相对 GPU 实例是否有竞争力;第二,RISC-V 生态中的推理框架、算子库和开发工具能否快速补齐,降低开发者迁移成本;第三,其他 RISC-V 芯片厂商是否会跟进类似方案,从而推动整个架构在 AI 推理市场形成规模效应。

来源:AIbase

celebrityanime
celebrityanime
文章: 19081

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注