vLLM Semantic Router 发布 d3-ultra:27B 开源多模态决策模型,一次读入返回概率

vLLM Semantic Router 团队发布 d3-ultra,一个 26.09B 参数、Apache-2.0 许可的多模态“决策模型”,不生成文本,而是对输入一次性读取后、为每个问题返回概率,可用于路由、分类、视觉定位和视频判断。

一句话看懂:vLLM Semantic Router 团队发布 d3-ultra,一个 26.09B 参数、Apache-2.0 许可的多模态“决策模型”,不生成文本,而是对输入一次性读取后、为每个问题返回概率,可用于路由、分类、视觉定位和视频判断。

事件核心:发生了什么

据 MarkTechPost Research 2026 年 10 月 26 日报道,vLLM Semantic Router 团队推出 d3-ultra,参数规模 26.09B(稠密结构,含 0.46B 视觉编码器),每题支持 131,072 tokens 上下文。模型沿袭 Qwen3.5 架构,64 层中有 48 层线性注意力、16 层全注意力;官方暂未公布量化版本,测试跑在 1 张 AMD Instinct MI325X 的 BF16 权重上。它属于 Decision 3.0 家族(0.6B 至 27B),支持 Choice、Yes/No、Score、Box、Track 五类问答输出。

团队自建两项内部测试:SR-Text 共 10,411 条文本请求、73,495 个问题,d3-ultra 得 87.2(机会校正准确率),高于 GLiDE V1.2 的 85.1 和同门 d3-turbo 的 83.1;SR-Box 在 10 个域上为 58.2%,9 个域上为 54.6%,低于 d3-turbo 的 60.0% 和 59.6%。单张 MI325X 上,1 个图片问题耗时 304 ms,255 个问题 2.16 s。

为什么重要

这代表一类与生成式大模型不同的路线:把“路由、判断、定位”从生成任务中拆出来做成专用决策模型,用一次读入摊薄多问题推理成本。对 AI 应用而言,语义路由和分类常是调用链的前置环节,若用一个开源权重模型覆盖文本、图像、视频判断,可减少多模型拼接与闭源 API 依赖。不过这些分数均来自团队自报的内部评测,并非第三方榜单,目前公开信息显示其尚未进入公开索引。

对用户/开发者/创作者的影响

开发者可通过 Transformers 的 AutoModel、vllm-sr serve 命令、免费 API(decision.vllm-sr.ai)或官方 Hugging Face Space 四种方式接入;Apache-2.0 许可便于自托管与二次集成。代价是硬件门槛不低:目前官方测试仅基于单卡 MI325X,且未列量化版本。创作者与企业若想用它做内容分类、PDF/图表定位或视频片段检索,需要先评估自有算力和时延预算。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 SR-Box 在自然图像上落后 d3-turbo 约 5 个百分点,后续是否会通过更新缩小差距;二是量化版本、更多硬件适配与公开榜单成绩何时落地;三是竞品 GLiDE、Jev 与闭源决策 API 是否跟进降价或补齐视频定位能力。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 30385

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注