一句话看懂：亚马逊在 Hugging Face 博客发布 HOPE 方法，用二阶剪枝考虑 MoE 模型专家间的协同关系，在 50% 剪枝率下取得更优平均排名，代理编码任务最高提升 6.1%，为压缩大模型内存占用提供新思路。
事件核心：发生了什么
2026 年 11 月 9 日，亚马逊在 Hugging Face 博客发布 HOPE（Higher-Order Pruning of Experts）方法。MoE 大模型推理时需保留全部专家 MLP，例如 Qwen3.5-122B 的 48 个 MoE 层各有 256 个专家，约 250 GB 参数内存中 95% 被专家占用；但每个 token 每层只激活 8 个专家。现有剪枝方法独立给每个专家打重要性分数，属一阶方法，忽略了专家间稳定的协同激活关系。HOPE 是二阶方法，在剪枝决策中考虑专家对之间的交互影响。论文称在 50% 剪枝率下，HOPE 取得所有方法中最佳平均排名，代理编码任务较次优方法最高提升 6.1%。目前公开信息显示，这是论文成果，尚未作为产品功能上线。
为什么重要
MoE 是当前主流大模型扩展参数量的关键架构，但推理内存成本高。剪枝直接删除低价值专家，无需训练，还能与量化叠加，适合部署侧降本。HOPE 指出专家不是独立个体，而是稳定协作的群体，这修正了一阶剪枝在高剪枝率下容易破坏协作组的缺陷，也为模型压缩研究提供了新方向。
对用户/开发者/创作者的影响
对部署 MoE 模型的开发者而言，若后续有开源实现，HOPE 可能帮助在有限算力和内存下运行更大模型，尤其利于代理编码等任务。对使用开源模型的团队，剪枝后模型仍需评估实际质量损失。普通用户短期内感知有限，但推理成本下降可能间接影响 API 价格和本地部署门槛。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 HOPE 是否发布可复现代码并与主流推理框架集成；二是剪枝在更多模型和任务上的评测是否稳定，尤其在更高剪枝率下的表现；三是量化与剪枝组合后的实际部署收益，以及社区能否在开源模型上复现论文结果。
