Kimi K3 开源:2.8T MoE 模型与技术报告

月之暗面于2026年7月27日正式开源Kimi K3模型——一个2.8万亿参数的MoE架构大模型,原生支持视觉理解与1M上下文窗口,同时开放了底层高性能计算套件。这是目前开源社区中参数规模最大的多模态模型之一,标志着中国AI公司在极大规模MoE开源上迈出关键一步。

一句话看懂:月之暗面于2026年7月27日正式开源Kimi K3模型——一个2.8万亿参数的MoE架构大模型,原生支持视觉理解与1M上下文窗口,同时开放了底层高性能计算套件。这是目前开源社区中参数规模最大的多模态模型之一,标志着中国AI公司在极大规模MoE开源上迈出关键一步。

事件核心:发生了什么

月之暗面(Kimi.ai)在X平台宣布开源Kimi K3,包括模型权重(发布于HuggingFace)、技术报告(GitHub)和技术博客。Kimi K3的核心特性为:2.8T激活参数(MoE架构,总参数远高于此),原生视觉理解能力,支持1M token的上下文窗口。官方强调,新架构实现了“每单位计算智能提升2.5倍”,并非单纯增加参数量。同时开源了配套的高性能注意力算子、MoE通信库以及用于大规模运行Agent环境的基础设施代码。

为什么重要

这是目前开源领域已知的最大规模MoE模型之一。此前开源MoE模型多停留在数百亿到千亿级别(如Mixtral 8x7B、DeepSeek-MoE),而Kimi K3直接提升至2.8T级别。更重要的是,Kimi K3声称在计算效率上突破——这意味着未来大模型竞争正从“堆参数”转向“算法架构优化”,对算力有限的开发者和中小团队尤其有利。开源整套底层基础设施(注意力核、通信库、Agent框架)也降低了社区复现和二次开发的门槛,可能加速多模态、长上下文和Agent应用的生态繁荣。

对用户/开发者/创作者的影响

开发者:可以直接下载Kimi K3权重进行微调、蒸馏或部署,HuggingFace上已可获取。开源的高性能通信库和注意力算子有望被集成到推理框架中,降低部署大规模MoE模型的技术成本。创作者:原生视觉理解能力支持图文混合输入,结合1M上下文窗口,可处理长篇视频字幕、复杂文档分析等任务。企业:可评估利用Kimi K3替代闭源API(如GPT-4o、Claude 3.5)的方案,但需注意2.8T模型的推理硬件门槛极高,目前公开信息尚未公布具体推理效率数据。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,技术报告中的具体架构创新(如MoE路由策略、视觉融合方式)将接受社区检验,能否在公开基准上超越同等规模闭源模型是重点。第二,月之暗面是否会同步推出商业化的API服务或轻量化版本,将直接影响开发者的采用意愿。第三,竞品(如DeepSeek、Qwen、Llama团队)是否会在类似规模上跟进开源,推动新一轮开源模型性能升级。

来源:X:Kimi.ai (@Kimi_Moonshot)

celebrityanime
celebrityanime
文章: 15401

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注