美团开源LongCat-2.5:万亿参数MoE模型,百万Token上下文支持长序列任务

美团于2026年11月10日以MIT许可证开源LongCat-2.5,一个总参数1.6万亿、每token激活约480亿的原生多模态MoE模型,支持100万token上下文;其长序列SFT在单卡显存低于80GB的国产加速卡上,单卡吞吐较DDP基线提升86%。

一句话看懂:美团于2026年11月10日以MIT许可证开源LongCat-2.5,一个总参数1.6万亿、每token激活约480亿的原生多模态MoE模型,支持100万token上下文;其长序列SFT在单卡显存低于80GB的国产加速卡上,单卡吞吐较DDP基线提升86%。

事件核心:发生了什么

美团在11月10日开源LongCat-2.5,采用MIT许可证,允许商业推理部署和继续训练,无需额外授权。模型权重已上线HuggingFace,技术博客和API平台同步开放。根据公开信息,该模型面向长程Agent任务,总参数1.6万亿,每token激活约480亿参数,支持100万token上下文,官方称在复杂代码库开发、完整项目构建、Visual Coding和专业办公场景中有明显提升。

技术路线上,视觉信号被表示为多级离散token,由主干网络与文本统一处理,而非依赖外部视觉模块;视觉码本与主干联合训练,视觉token可离线缓存。推理采用W4A4方案,将专家权重和激活量化为4bit并在原生INT4矩阵乘单元上执行,配合FlatQuant优化MoE量化精度。训练和SFT均采用长序列方案,针对单卡显存低于80GB的国产AI加速卡,使用FSDP双重分片和混合词表并行分担显存压力。

为什么重要

万亿参数MoE模型通常与高端GPU集群绑定,而LongCat-2.5的工程重点是把训练和推理压到显存与带宽受限的国产算力上。86%的单卡吞吐提升针对的是长序列SFT这一实际瓶颈,对开源部署和二次训练更有参考价值。MIT许可证也降低了商业使用门槛。目前公开信息显示,大模型竞争的焦点正从单纯堆参数转向工程实现与国产算力适配,这一方向对国内团队尤其现实。

对用户/开发者/创作者的影响

开发者可以直接在HuggingFace获取权重,按MIT条款做推理部署或继续训练,API平台也已开放,适合评估长上下文Agent和代码类任务。创作者和企业可关注其在专业办公场景中的端到端交付能力,比如报告、演示文稿和办公工具生成。需要说明的是,上述能力描述来自美团官方博客,素材未提供第三方评测或完整实验细节,实际效果需自行验证。硬件方面,显存低于80GB的国产加速卡是明确的适配目标,采购和部署时可据此评估。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是社区是否复现86%的吞吐数据,以及在非国产硬件上的表现;二是W4A4量化后的下游任务精度能否稳定接近未量化版本;三是API定价、限流和商用条款是否随生态扩大而调整。目前公开信息显示,技术博客和API平台已同步开放,后续可观察实际调用反馈。

来源:AIbase

celebrityanime
celebrityanime
文章: 33883

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注