Moonshot AI 发布 Kimi K3:具有 Kimi Delta Attention 和 1M Context 的 2.8 万亿参数开放 MoE 模型

国内大模型公司 Moonshot AI(月之暗面)于 2026 年 7 月 16 日发布了 Kimi K3 模型,这是一款拥有 2.8 万亿参数的开放 MoE(混合专家)模型,其核心亮点是自主研发的 Kimi Delta Attention 机制以及高达 100 万 token 的超长上下文窗口。它标志着国内…

Moonshot AI 发布 Kimi K3:具有 Kimi Delta Attention 和 1M Context 的 2.8 万亿参数开放 MoE 模型

一句话看懂:国内大模型公司 Moonshot AI(月之暗面)于 2026 年 7 月 16 日发布了 Kimi K3 模型,这是一款拥有 2.8 万亿参数的开放 MoE(混合专家)模型,其核心亮点是自主研发的 Kimi Delta Attention 机制以及高达 100 万 token 的超长上下文窗口。它标志着国内大模型在参数规模与长上下文处理能力上迈出了重要一步,并且选择了“开放”而非完全闭源的技术路线。

事件核心:发生了什么

Moonshot AI 正式发布了其新一代大语言模型 Kimi K3。该模型基于混合专家(MoE)架构,总参数量达到 2.8 万亿,这使其成为目前全球范围内参数规模最大的开放模型之一。Kimi K3 最引人注目的技术创新是“Kimi Delta Attention”注意力机制,该机制旨在更高效地处理超长序列,使其原生支持 100 万级别的上下文窗口(1M Context)。这意味着模型能够一次性阅读和理解海量文本,例如三体三部曲或数千页的企业文档。Moonshot AI 选择将其以“开放”形式发布,但具体的开源协议细节(如是否商用、是否公开权重)目前公开信息有限。

为什么重要

Kimi K3 的发布在技术和行业路线两个层面具有重要意义。技术层面,2.8 万亿参数的 MoE 模型对推理成本和算力调度提出了极高要求,Kimi Delta Attention 能否在长文本场景下实现低成本、低延迟的商业化部署,是检验其实用性的关键。行业层面,它直接回应了 Meta 的 Llama 系列和 Google 的 Gemini 1.5 Pro 在上下文长度上的竞争。Moonshot AI 选择将如此大规模的模型“开放”,试图通过生态建设与社区贡献来获取开发者信任和市场份额,这与其早期仅通过 API 提供服务的策略有所不同,可能会重塑国内大模型领域的竞争格局。

对用户/开发者/创作者的影响

对于开发者,Kimi K3 的开放特性意味着可以直接进行模型微调或私有化部署,尤其适合需要处理海量内部文档(如法律卷宗、科研论文、代码库)的企业级应用。对创作者和普通用户,1M 的长上下文能力使得一次性分析完整小说、撰写超长篇报告或进行跨章节的复杂逻辑推理成为可能。不过,部署如此规模的模型需要巨大的 GPU 算力投入,普通个人开发者难以负担,因此初期影响更可能通过 Moonshot AI 或第三方云厂商提供的 API 服务体现,成本将直接影响其普及速度。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,Kimi K3 的实际推理速度与每 token 成本,这将决定其能否在商业化上胜过闭源模型。第二,其“开放”的具体范围——是仅开放推理代码,还是公开权重并允许商用,这直接决定了开发者社区的参与深度。第三,竞品如百度(文心)、阿里(通义千问)或智谱 AI 在面对如此高参数的长上下文模型时,是否会快速跟进发布类似规模产品,或转向优化“小模型+长上下文”路线。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 13746

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注