腾讯发布Hy3:开放的295B混合专家(MoE)模型,具有21B活动参数和256K上下文

腾讯发布了Hy3,一个295B参数的开源混合专家模型,每次推理仅激活21B参数,并支持256K超长上下文。这标志着中国大厂在开源MoE路线上进一步加码,为开发者提供了低成本、高吞吐的替代方案。

腾讯发布Hy3:开放的295B混合专家(MoE)模型,具有21B活动参数和256K上下文

一句话看懂:腾讯发布了Hy3,一个295B参数的开源混合专家模型,每次推理仅激活21B参数,并支持256K超长上下文。这标志着中国大厂在开源MoE路线上进一步加码,为开发者提供了低成本、高吞吐的替代方案。

事件核心:发生了什么

腾讯在2026年7月初正式发布了Hy3模型,这是一个295B总参数量的混合专家(Mixture-of-Experts,MoE)大语言模型,但每次推理只激活约21B参数(即“活动参数”),从而大幅降低计算成本。Hy3采用开源协议发布,支持最长256K token的上下文窗口,可处理长文档、代码库或对话历史。该模型的训练细节和基准测试结果已在相关技术论文中公开,目前可通过GitHub和Hugging Face等平台获取模型权重及推理代码。

为什么重要

Hy3的发布在技术路线和行业竞争两方面具有信号意义。从技术上看,MoE架构已被证明能在不线性增加算力投入的前提下扩展模型容量,Hy3用一个295B的“大储备”配合21B的“实际调用”,在长上下文场景中兼具性能与效率。相比同等活跃参数规模的稠密模型,MoE的推理速度更快、显存需求更低。从竞争格局看,腾讯此次选择全面开源,直接对标Meta的Llama系列、Mistral等国际开源模型,同时也给国内开发者提供了比闭源API更可控的底座模型。这意味着大模型开源阵营再添一名“重量级选手”,且来自中国头部互联网公司,有助于降低企业接入大模型的门槛。

对用户/开发者/创作者的影响

对于开发者而言,Hy3最大的吸引力在于:用295B的参数量级(理论上更强的知识容量)配合21B的推理成本,在本地或云端部署时,硬件开销远低于同规模的稠密模型。256K上下文使其特别适合处理长代码仓库、学术论文、合同审查或复杂项目对话。企业用户可以将Hy3作为私有化部署的基础模型,避免数据出域或API调用的持续费用。普通用户目前暂未见直接面向C端的产品,但腾讯可能将其集成到企业微信、腾讯云等已有平台中。创作者可以利用其长上下文能力做多轮剧本撰写、长篇小说辅助或大规模素材摘要。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,Hy3的社区生态能否快速建立:模型权重已开放,但微调工具、部署方案、第三方适配尚需时间,如果腾讯提供清晰的文档和示例,会加速开发者采纳。第二,性能评测的实际表现:当前官方仅公开了部分基准,后续独立第三方评测(如LMSys Chatbot Arena、C-Eval等)的分数将更具说服力。第三,竞品跟进:阿里、百度、字节等国内公司是否会在MoE路线上推出类似规模的开源模型,将影响2026年下半年中国开源大模型的格局。第四,监管兼容性:开源模型如何配合中国的生成式AI备案制度,腾讯是否会提供合规工具,也是企业选型时的关键考量。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 16328

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注