​百万 Token 上下文首次下放到端侧:讯飞星火 X2.5 双子星开源,全程国产算力训练

9月1日,讯飞旗下子公司“次元星火”开源了两款端侧通用大模型星火 X2.5-4B 和 X2.5-1.7B,首次在端侧原生支持百万 Token 上下文,且全程使用国产算力训练。这意味着小模型也能“读完整本书”,并在离线环境下执行复杂任务。

一句话看懂:9月1日,讯飞旗下子公司“次元星火”开源了两款端侧通用大模型星火 X2.5-4B 和 X2.5-1.7B,首次在端侧原生支持百万 Token 上下文,且全程使用国产算力训练。这意味着小模型也能“读完整本书”,并在离线环境下执行复杂任务。

事件核心:发生了什么

9月1日,科大讯飞全资子公司次元星火正式发布并开源星火 X2.5-4B 与星火 X2.5-1.7B 两款端侧大模型。这两款模型是首批原生支持最高 100 万 Token 上下文的端侧产品,模型权重、代码仓库和部署文档已全部开放。

两款模型采用混合注意力架构,针对智能体、代码、数学和指令遵循等能力做了优化。训练数据规模约 20 万亿 Token,全程在国产算力平台上完成。模型支持 NVIDIA、华为、海光、合摩等硬件平台,并兼容 vLLM、SGLang、llama.cpp 等主流推理框架,可通过 Ollama、LM Studio 等工具快速部署。目前权重已上架 Hugging Face 和 GitHub,讯飞星辰 MaaS 平台也同步上线了对应 API,限时免费。

为什么重要

百万 Token 上下文此前主要停留在云端大模型,端侧模型受限于显存和算力,通常只能处理几千到几万 Token。星火 X2.5 把这一能力下放到端侧,意味着在无网或弱网环境下,终端设备也能一次性接收并理解整本手册、长文档或完整代码库,解决了端侧智能“信息看不全”的瓶颈。

其次,全程国产算力训练对于国内 AI 产业链具有风向标意义。它在训练侧减少了对海外算力的依赖,同时兼容多款国产硬件和主流推理框架,降低了开发者基于国产芯片做端侧部署的门槛。叠加端侧本地推理带来的隐私与延迟优势,这类模型在智能硬件、机器人、办公软件等场景的商业化路径会更直接。

对用户/开发者/创作者的影响

对普通用户:搭载这类端侧模型的家电、手机或机器人,可以在本地完成售后咨询、操作控制等任务。测试数据显示,星火 X2.5-1.7B 在智能家居控制指令上的端到端执行准确率达 90.3%,平均响应时间仅 0.85 秒,无需联网等待。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开发者:模型兼容 Ollama、LM Studio 等常用工具,并支持 LLaMA-Factory 增量训练,上手成本较低。在代码开发场景中,星火 X2.5-4B 在算法实现、代码补全和生成任务上可匹配参数量大 2 到 3 倍的云端模型,适合资源受限的端侧应用。

对创作者和企业:长上下文能力使得创作者可以直接在本地导入完整技术文档或素材库,让模型基于全量信息生成内容或给出判断,而非依赖分段摘要,信息完整性更好。

值得关注的后续

一是开发者生态能否快速建立。模型开源后,社区是否会基于国产硬件和推理框架做出更多适配,将影响其实际使用广度。

二是讯飞将于 9 月 7 日正式发布下一代旗舰通用大模型星火 X2.5,届时端侧与云端模型的能力分工、API 定价策略是否调整,值得留意。

三是同类端侧模型的跟进情况。目前公开信息显示,业内已有部分厂商布局端侧模型,但原生支持百万 Token 的端侧开源模型尚不多见,竞品是否会跟进这一规格,将检验该路线的实际需求。

来源:AIbase

celebrityanime
celebrityanime
文章: 21246

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注