百度开源ERNIE 5.5 Flash Base：280B MoE仅激活14B，预训练原版权重可直接微调

一句话看懂：百度于 2026 年 11 月 5 日发布 ERNIE 5.5 Flash Base，总参数 280B、每 token 激活 14B 的稀疏 MoE 文本基础模型，只放出预训练结束时的原始权重，未做指令或对齐训练，可作为统一起点对比各类微调与强化学习方案。

事件核心：发生了什么

据 MarkTechPost 报道，ERNIE 5.5 Flash Base 采用 43 层、隐藏维度 4096 的 MoE 结构，在 33.5T token 上从头预训练，使用 Muon 优化器。权重同时提供 FP8 与 BF16 版本，已上传 Hugging Face 和 ModelScope，并通过 SGLang（示例使用 –tp 4）和 vLLM 0.32.0 加 vLLM-ERNIE 插件部署，训练上下文 128K，微调与推理最长可到 1M token。模型共 512 个路由专家、每 token 选 10 个，另加 1 个共享专家；注意力采用混合设计，37 层为 HCA、每 128 token 缓存 1 条，其余 6 层保留完整上下文。百度的统一评测中，它在 30 项基础模型基准里拿下 24 项最佳，MMLU-Pro 78.4，但 HELMET-Rerank 56.2，落后于 DeepSeek-V4-Flash-Base 的 60.0。

为什么重要

国内大厂长期以闭源 API 为主，直接放出“纯预训练”大模型权重并不常见。对研究者而言，一个未被后训练污染的 280B MoE 检查点，能让不同 SFT、指令微调和 RL 方法在同一底座上比较，减少底座差异带来的干扰。参数规模上，它与 DeepSeek（284B）、腾讯 Hy3（295B）、小米 MiMo（310B）处于同一区间，而激活参数仅 14B，推理成本相对可控，延续了“大容量、小激活”的稀疏路线竞争。

对用户/开发者/创作者的影响

普通用户暂时用不到：它是 base 模型，只能走 completions 接口，不是聊天产品。开发者若想自建模型，可获得可微调的起点，但 280B 总量意味着需要多卡服务器，官方未披露 GPU 型号与显存需求。评测数据均为百度自报，且竞品分数与各家官方报告略有出入（如 DeepSeek 自报 MMLU-Pro 68.3，百度测得 69.2），横向比较应谨慎看待。