[Bug]: kv_cache_utils warns that prefix-cache reuse is disabled even when disable_eagle_block_drop keeps it working

问题场景

在 vLLM 中启用 EAGLE 投机解码，并通过 --speculative-config '{..., "disable_eagle_block_drop": true}' 关闭 EAGLE block drop（相关 PR #53388），同时模型带有 Mamba KV group。此时 vllm/v1/core/kv_cache_utils.py 中的 _warn_if_unannotated_eagle_mamba 被 use_eagle() 门控触发，输出前缀缓存复用将被禁用的警告；但实际 _annotate_eagle_groups 提前返回，没有任何 group 被标记，前缀缓存复用并未受影响。

报错原文

[Bug]: kv_cache_utils warns that prefix-cache reuse is disabled even when disable_eagle_block_drop keeps it working

prefix-cache reuse across requests will be disabled

原因分析

最可能的原因是门控条件不一致：_warn_if_unannotated_eagle_mamba 依据 use_eagle() 判断，而它警告文案所对应的 flag-all 回退路径（KVCacheCoordinator.__init__、SchedulerOffloadConfig.from_spec、MooncakeStoreCoordinator._verify_and_split_kv_cache_groups）依据 use_eagle_block_drop() 判断。设置 disable_eagle_block_drop: true 后，_annotate_eagle_groups 提前返回，不会标记任何 group，警告所依赖的“已标记”短路也不会发生，于是对每个含 Mamba KV group 的模型都误报。

环境排查

• 确认 vLLM 版本或 git commit：Issue 原始环境为 0.28.1rc1.dev383+g8a0a7ee40（git sha: 8a0a7ee40）。
• 确认是否启用 EAGLE 投机解码，并在 --speculative-config 中设置了 "disable_eagle_block_drop": true。
• 确认模型是否包含 Mamba KV group（警告只在存在此类 group 时出现）。
• 确认代码中 _warn_if_unannotated_eagle_mamba 的调用位置与门控条件：修复后位于 vllm/v1/core/kv_cache_planning.py，只在 use_eagle_block_drop() 下调用。
• Python、CUDA、PyTorch、显卡驱动等信息用于排除其他环境问题，但不是该误报的直接成因。

解决步骤

1. 记录当前 vLLM 版本或 git commit，确认是否早于 PR #61455 合入（2026-10-17）。
2. 升级到包含 #61455 的 vLLM 主分支版本，确保 _warn_if_unannotated_eagle_mamba 的调用已迁移至 vllm/v1/core/kv_cache_planning.py，并受 use_eagle_block_drop() 门控。
3. 使用原配置重新启动 vLLM：保留 EAGLE 投机解码和 "disable_eagle_block_drop": true，加载含 Mamba KV group 的模型。
4. 观察启动日志，确认不再输出 “prefix-cache reuse across requests will be disabled” 警告。
5. 如果升级后仍复现，可优先尝试检查是否仍有其他位置按 use_eagle() 调用该警告函数，或提交包含 disable_eagle_block_drop 与 Mamba 组合的回归测试。

验证方法

在包含 #61455 的版本上，用相同模型和相同 disable_eagle_block_drop: true 配置启动 vLLM，日志中不应再出现该 prefix-cache 复用禁用警告。Issue 报告者提供的回归测试在修复后的主分支通过，在旧 use_eagle() 门控下失败，可用来确认修复是否生效。

参考来源

vllm-project/vllm #55518

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。