Liquid AI开源d1决策模型:3B模型决策分超10B以下同行,Jetson边缘50毫秒内出结果

Liquid AI 发布开源决策模型 d1-3B 和 d1-omni-600M,前者在决策评测中超过所有 10B 以下模型,并可在 Jetson 边缘设备上以 50 毫秒内完成一次问答。

一句话看懂:Liquid AI 发布开源决策模型 d1-3B 和 d1-omni-600M,前者在决策评测中超过所有 10B 以下模型,并可在 Jetson 边缘设备上以 50 毫秒内完成一次问答。

事件核心:发生了什么

2026 年 10 月 7 日,Liquid AI 在官方博客发布了 d1 决策模型家族的两款开放权重模型:d1-3B 和 d1-omni-600M。d1-3B 在 Decision Index v0.2.1 公开测试集上得分 48.57,领先所有 10B 以下模型,并与参数量约为其 12 倍的 Decider 35B-A3B 持平。d1-omni-600M 是实验性检查点,同一指数得分为 15.95,同时支持文本加图像、文本加音频两种输入组合。

与生成式语言模型不同,d1 决策模型不逐 token 生成答案,而是在单次前向传播中直接输出结果。架构上,d1-3B 从 LFM2.5-VL-3B 解码器微调而来,d1-omni-600M 则基于 LFM2.5-Encoder-350M 双向编码器,并额外接入视觉和音频编码器。两款模型已在 Hugging Face 上线,并支持 llama.cpp。

推理性能方面,d1-3B 在 RTX 4090 上单题延迟 8 毫秒,Jetson AGX Thor 上 16 毫秒,Jetson AGX Orin 上 26 毫秒,即使 Jetson Orin Nano 也只需 50 毫秒。在 3.4K token 状态和 384px 图像输入下,Jetson AGX Thor 分别录得 220 毫秒和 35 毫秒。

为什么重要

决策模型与当前主流大模型走的是两条路线:后者依赖自回归生成,前者把答案压缩为一次前向计算。这种设计直接降低了推理延迟和边缘算力门槛,使实时决策不再必须依赖云端 GPU 集群。d1-3B 以 3B 规模对标 35B 模型,说明决策任务上小模型仍有优化空间。

Liquid AI 选择开放权重,同时覆盖 NVIDIA 从 DGX 到 Jetson 的全栈硬件,并首日支持 llama.cpp,这对边缘 AI 和本地部署生态是一个明确信号。当前决策模型赛道还未形成统一评测标准,d1-omni-600M 的音频决策基准仍是开放问题,Liquid AI 也承认这一点。

对用户/开发者/创作者的影响

开发者现在可以在 Hugging Face 获取这两款模型,并在本地或边缘设备运行。对于需要低延迟分类、意图识别、毒性检测、阅读理解等任务的场景,d1-3B 提供了一个无需生成 token 的推理选项,尤其适合 Jetson 或苹果 M 系列芯片上的实时应用。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

企业采购和硬件选型方面,d1-3B 展示了在同级硬件上运行决策任务的可能性,可能减少对高端 GPU 的依赖。不过 d1-omni-600M 仍属实验性发布,官方表示仍在积极开发中,多模态决策能力尚未有专门基准验证,目前公开信息显示其视觉能力来自 LFM2.5-VL 骨干网络,音频部分则缺少独立评测。

值得关注的后续

第一,d1-omni-600M 能否从实验检查点走向稳定版本,以及音频决策基准是否会有社区方案。第二,Decision Index v0.2.1 的公开分数能否在后续更新中保持,尤其是与 Decider 系列的竞争是否加剧。第三,llama.cpp 和 NVIDIA Jetson 生态的集成深度,是否会让更多开发者把决策模型嵌入现有工作流。

来源:Liquid AI 模型与工程博客(网页)

celebrityanime
celebrityanime
文章: 28031

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注