Kimi K3 上线 Modal,支持无损加速推理

Kimi(月之暗面)与云平台 Modal 联合推出 K3 模型,这是首个开源的 3T 级参数模型,并通过定制 DFlash 推测解码技术实现无损加速推理,可直接在 Modal 上运行。

一句话看懂:Kimi(月之暗面)与云平台 Modal 联合推出 K3 模型,这是首个开源的 3T 级参数模型,并通过定制 DFlash 推测解码技术实现无损加速推理,可直接在 Modal 上运行。

事件核心:发生了什么

7 月 27 日,Kimi.ai 宣布 K3 模型上线云平台 Modal,并成为 Modal 的 “Day 0 发布合作伙伴”。K3 被描述为 “全球首个开源的 3T 类参数模型”,月之暗面为其新型架构定制了 DFlash 推测解码器(speculator),能在不损失质量的前提下显著提升推理速度。Modal 官方表示,K3 是他们接触过的最强开源模型。目前该模型已在 Modal 上可直接使用,提供 API 调用或托管服务。

为什么重要

3T 级参数的开源模型此前并无先例——目前主流开源模型多为数十亿到数百亿参数量级,1T 以上参数的密集模型已属罕见。K3 的到来意味着开源社区第一次能接触到数千亿甚至万亿级参数的开放权重模型,这可能会重新定义“开源模型能力边界”。与 Modal 的深度集成,也展示了云平台如何通过定制推理优化(如 DFlash)解决超大规模模型部署的高成本和延迟问题,为其他云服务商和模型团队提供了技术示范。

对用户/开发者/创作者的影响

对于开发者,可在 Modal 平台直接以 API 或 Serverless 方式调用 K3,无需自行搭建大规模推理集群,降低了体验 3T 级模型的门槛。对于需要高精度、高上下文理解的 AI 应用(如复杂代码生成、长文档分析、科研推理),K3 的开放权重意味着可以在本地或私有云进行微调,不必依赖闭源模型。不过,由于参数规模巨大,实际推理成本仍可能显著高于百亿级模型,建议开发者在实际测试前关注 Modal 提供的定价和延迟数据。普通用户暂时无法直接通过浏览器使用该模型,需通过 Modal 或第三方集成工具。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 开源协议与权重发布:目前公开信息未明确 K3 的许可证(如是否完全开源、是否允许商用),后续发布细节将直接影响其生态影响力。2. 竞品跟进:其他云平台(如 AWS、GCP、Azure)是否会与 Moonshot 合作推出类似无损加速方案?3. 实际性能对比:第三方评测能否验证 K3 在复杂推理任务上超越 GPT-4o 等闭源模型?4. 价格透明度:Modal 何时公布 K3 的调用单价,以及是否会对高频用户提供优惠?

来源:X:Kimi.ai (@Kimi_Moonshot)

celebrityanime
celebrityanime
文章: 15401

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注