美团 LongCat-2.0 正式开源,同步开放国产卡推理代码

美团发布了万亿参数大模型 LongCat-2.0,这是业界首个在五万卡国产算力集群上完成推理并全面开源的项目。它不仅开放了模型权重,还同步释放了针对国产芯片(如华为昇腾系列)的推理优化代码,这意味着开发者可以用现有国产卡直接跑万亿参数模型。

美团 LongCat-2.0 正式开源,同步开放国产卡推理代码

一句话看懂:美团发布了万亿参数大模型 LongCat-2.0,这是业界首个在五万卡国产算力集群上完成推理并全面开源的项目。它不仅开放了模型权重,还同步释放了针对国产芯片(如华为昇腾系列)的推理优化代码,这意味着开发者可以用现有国产卡直接跑万亿参数模型。

事件核心:发生了什么

本周,美团通过公众号“龙猫LongCat”正式开源 LongCat-2.0。该模型总参数量达到 1.6T(1.6万亿),平均激活参数约 48B,是一个面向真实 Agentic Coding(智能体代码任务)设计的稀疏大模型。其技术亮点包括:

  • 架构创新:引入 LongCat 稀疏注意力(LSA)和 N-gram Embedding,提升长上下文处理效率与 token 级表示能力。
  • 推理优化:针对国产算力芯片显存与带宽受限的问题,从模型层面(吸收计算模式、KVP 切分)、芯片适配层(Super Kernel 减少算子、Weight Prefetch 隐藏 I/O 延迟)到部署策略(PD 分离、异步 Expert-Parallel 负载均衡)进行了三层协同优化。
  • 开源内容:在 HuggingFace、GitHub、ModelScope 等平台发布模型权重(BF16/FP8/INT8 多精度版本),并在 SGLang 框架上开放了适配 GPU 和 NPU(如华为昇腾)的推理代码。

为什么重要

LongCat-2.0 的开源意义在于验证了一条“国产芯片跑大模型”的可复现技术路径。当前国内 AI 算力被进口芯片卡脖子,大量存量国产卡(尤其是老款或低显存卡)难以部署超大规模模型。美团通过算法与硬件的协同优化,解决了三个行业难题:

  • 显存瓶颈:万亿模型在单卡显存仅数十 GB 的国产卡上稳定推理;
  • 带宽限制:通过 KV-cache 切分与异步传输降低 I/O 压力;
  • 生态孤岛:推理代码全面开源,降低了其他企业复用的门槛。

此举直接推动了国产算力生态的实用化——企业不必再等领先芯片,即可利用现有存量卡部署高级 AI 服务。

对用户/开发者/创作者的影响

对开发者与 AI 应用公司:可以直接下载 LongCat-2.0 的模型权重和推理代码,在国产算力集群上部署万亿参数模型用于代码生成、智能体任务或长文档分析。项目提供了 Python API 平台(longcat.chat),且推出限时福利(新用户获赠 1000 万 Tokens,9.9 元可购 5000 万 Tokens),降低了初步体验成本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对企业 IT 采购决策者:这意味着国产算力卡(如昇腾、寒武纪等)不再等同于“不能跑大模型”。企业可基于库存或预算内的国产卡,直接部署万亿级推理服务,无需额外投入采购昂贵进口卡。

对技术研究者:LongCat 稀疏注意力、N-gram Embedding、MOPD 架构等技术细节有完整开源文档和代码,可用于研究或二次开发。

值得关注的后续

  • 实际部署效果验证:目前公开信息显示,开源代码适配了华为昇腾 NPU。后续是否有社区或企业反馈在多种国产卡(如海光、寒武纪)上的跑分与延迟数据,是检验该项目实用性的关键。
  • 竞争格局:DeepSeek、阿里千问等国内团队的万亿模型是否也会跟进开源国产卡推理栈?这可能加速国产算力生态的标准化。
  • 合规与商用:开源协议是否允许商业闭源使用?企业能否基于 LongCat-2.0 直接推出 B 端产品,需要进一步确认其授权条款。

来源:公众号:龙猫LongCat(美团)

celebrityanime
celebrityanime
文章: 12274

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注