vLLM 发布 Decision 3.0：0.8B 到 27B 开源决策模型，支持图像输入

一句话看懂：vLLM 语义路由器团队发布 Decision 3.0，5 款 Apache-2.0 许可的多模态决策模型，参数从 0.8B 到 27B，能直接输出概率而非生成文本，用于分类、路由和请求拦截。

事件核心：发生了什么

2026 年 10 月 11 日，vLLM Semantic Router 团队推出 Decision 3.0 系列决策模型。该系列包含 d3-lite（0.85B）、d3-nano（2.21B）、d3-mini（4.54B）、d3-flash（8.39B）和 d3（26.09B）五个尺寸，均基于 Qwen 基础模型微调，采用 Apache-2.0 开源许可。与常规大模型不同，这些模型接收文本、JSON 和图像输入，并对命名问题返回概率值，支持 Choice、Yes/No 和 Score 三种问答类型，一次调用即可完成全部问题的推理。

每个尺寸都配有视觉编码器，能读取最多 1.6 百万像素的 PNG、JPEG 或 WebP 图像，所有问题都能看到全部图像。推理延迟在单块 AMD Instinct MI325X 上测试：d3-nano 纯文本中位延迟 21.7 毫秒，带图 92.0 毫秒；d3 纯文本 84 毫秒，带图 342 毫秒。团队称所有模型均在 AMD Instinct MI325X GPU 上训练。

为什么重要

Decision 3.0 瞄准的是路由器与护栏场景中的“系统一”决策模式：传统做法需要提示大模型再解析生成文本，而 d3 直接返回校准概率，开发者可以设定阈值做判断，省去文本解析环节。在内部评测的 Jev Decision Index 0.3.1 榜单上，27B 的 d3 文本得分 64.1，视觉得分 71.6，略微领先 Perplexity Decider v1.1 的 62.8 和 70.6。最值得注意的是尺寸效率：9B 的 d3-flash 文本得分 59.0，已超过上一代 Decision 2.0 的 27B 模型（55.9）。不过这些数字均来自团队内部评估，且 d3 在公开套件上的 64.9 分略低于 Torchcast Decision 27B 的 65.1 分，说明领先优势并不绝对。

对用户/开发者/创作者的影响

对开发者而言，Decision 3.0 提供了一种更轻量的决策层接入方式：不需要额外解析生成文本，直接拿到概率做路由或风控。安装目标为 transformers==5.17.0，加载需 trust_remote_code=True，可选 flash-linear-attention 加速线性注意力层。小尺寸模型尤其适合对延迟敏感的场景，比如 d3-lite 带图中位延迟仅 60.7 毫秒。但需要注意，目前官方未披露上下文长度，也没有正式的量化版本，BF16 权重对显存有一定要求。对企业和创作者来说，这套模型可以用于内容分类、请求分发和安全拦截，降低调用大模型做简单判断的成本。不过评测中的弱项也需留意：MMMU-Pro 视觉任务仅 46.2 分，Hateful Memes 审核任务 44.6 分，说明复杂视觉推理和高风险内容判断仍需谨慎。