[Bug]: prefix caching + MTP still corrupts output on hybrid Mamba/GDN models in v0.28.0 (#43559 closed but unfixed)

快速结论：在 v0.28.0 中，同时开启 `–enable-prefix-caching` 和 MTP 投机解码（`–speculative-config ‘{“method”: “mtp”, “num_speculative_tokens”: 2}’`）时，混合 Mamba/GDN 模型（如 Qwen3.5 系列 VLM）的输出会偶发损坏，表现为输出退化为重复标点或空响应。优先排查是否缺少 #50729 修复（该修复未包含在 v0.28.0 分支中），升级到包含该修复的构建版本（如 v0.28.1rc0 或 main 分支）通常可解决。

适用环境：vLLM 0.28.0，Ubuntu 24.04，Python 3.12，PyTorch 2.13.0+cu130，CUDA 12.0（运行时），NVIDIA H100 80GB（TP=1），模型为 Qwen3.5 架构的 FP8 W8A8 混合 GDN/Mamba VLM（含 MTP 头），`–mamba-cache-mode align`。

最快修复方案：将 vLLM 升级到包含 PR #50729 的版本，例如 v0.28.1rc0 标签或当前 main 分支。Issue 评论中已确认该修复能解决此问题。

注意事项：#50729 的修复涉及投机解码期间同一物理块内重叠源/目标范围的 conv 状态移位复制问题，与 prefix-cache 命中率相关。若升级后问题仍存在，还需确认构建中是否包含同系列的 #53077（GDN 空草稿调度计数重置）和 #54076（align-mode 块分割使用 Mamba 缓存组的 block size）。

问题场景

用户使用 vLLM 0.28.0 部署 Qwen3.5 架构的 27B FP8 VLM（混合 Gated DeltaNet 线性注意力 + 每 4 层一次全注意力 + 视觉塔），并同时启用 prefix caching、chunked prefill 和 MTP 投机解码。在运行多步 GUI-agent 跟踪任务时（每请求含 1-3 张截图，约 4k-12k prompt tokens，20-100 输出 tokens，并发最高 32），少量响应退化为一连串感叹号或空响应。

报错原文

[Bug]: prefix caching + MTP still corrupts output on hybrid Mamba/GDN models in v0.28.0 (#43559 closed but unfixed)
A small fraction of responses degenerate into repeated punctuation (`!!!!…`) or come back empty.
Startup confirms: Resolved architecture: Qwen3_5MTP, enable_prefix_caching=True, num_spec_tokens=2

原因分析

可能原因有两条独立路径：

缓存读取路径（较不可能）：可通过关闭 `–no-async-scheduling` 并观察损坏率是否归零来排除。评论者实验显示，关闭 async scheduling 后损坏率从 16/288 降至 0/288，说明这是 host/device 竞争问题，而非缓存读取或 block dropping 路径。
复制竞争路径（最终确认）：PR #50729 修复的“投机解码中同一物理块内重叠源/目标范围的 conv 状态移位复制”问题，该修复未包含在 v0.28.0 分支中。此机制与错误 conv 窗口 / GDN 快照损坏高度相关，并会随 prefix-cache 命中率自然相关（命中会重新进入流中的 conv 状态）。Issue 评论确认应用 #50729 后问题消失。

环境排查

vLLM 版本：确认是否为 0.28.0（该版本不包含 #50729 修复）。检查方法：`pip show vllm` 或 `python -c “import vllm; print(vllm.__version__)”`。
构建包含情况：检查当前构建是否包含 PR #50729、#53077、#54076。可通过 `git log –oneline –grep=”50729″` 或直接查看构建标签（如 v0.28.1rc0）。
调度配置：确认是否使用 async scheduling（默认启用），并可尝试 `–no-async-scheduling` 作为诊断手段。
模型配置：确认模型是否含 MTP 头（启动日志中应有 `Resolved architecture: Qwen3_5MTP`），以及是否使用 `–mamba-cache-mode align`。
GPU/驱动：H100 80GB，NVIDIA 驱动 580.173.02，PyTorch 2.13.0+cu130（CUDA 12.0 运行时）。

解决步骤

升级到包含 #50729 的构建：优先尝试 v0.28.1rc0 标签或当前 main 分支。这是 Issue 评论中已验证的解决方案。
诊断性验证（可选，用于定位机制）：在升级前，可先以 `–no-async-scheduling` 重跑复现任务。若损坏率归零，可确认是 host/device 竞争问题。但注意这只是诊断手段，不代表最终修复。
确认构建中包含同系列修复：升级后检查构建是否同时包含 #53077（GDN 空草稿调度计数重置）和 #54076（align-mode 块分割 block size 问题），这两个修复与 Mamba/GDN 投机解码同属一个修复谱系。
复跑复现集合并对比命中率：使用与原始问题相同的 288 请求复现集，保持 async scheduling 开启，其他参数不变。若损坏数降为 0，则根因确认；否则需进一步排查。
若仍存在损坏：可临时关闭 prefix-caching（`–no-enable-prefix-caching`）或 MTP（移除 `–speculative-config`）作为临时规避手段，并到对应 PR 下补充反馈。

验证方法

使用与原 Issue 相同的多步 GUI-agent 跟踪工作负载（约 4k-12k prompt tokens，20-100 输出 tokens，`temperature=0`，并发最高 32）复跑一轮，统计最终输出中退化为重复标点（如 `!!!!…`）或空响应的比例。若比例降为 0%（如评论所述 0/288），则确认问题已解决。同时可观察启动日志确认 `Resolved architecture: Qwen3_5MTP` 和 `num_spec_tokens=2` 配置正确加载。