Ollama 0.34.2 MTP speculative decoding regression with Qwen3.8 27B

这个报错通常出现在用 Ollama 0.34.2 加载 Qwen3.8 27B 并启用 MTP(Multi-Token Prediction,多 token 预测)投机解码时,表现为吞吐量(TPS)或草稿接受率(draft acceptance)相比旧版本出现回退。优先排查 Ollama 版本是否有

这个报错通常出现在用 Ollama 0.34.2 加载 Qwen3.8 27B 并启用 MTP(Multi-Token Prediction,多 token 预测)投机解码时,表现为吞吐量(TPS)或草稿接受率(draft acceptance)相比旧版本出现回退。优先排查 Ollama 版本是否有

这个报错通常出现在 ComfyUI 运行 MiniMax Music 3、同时使用 GGUF 动态显存(Dynamic VRAM)加载器和 CUDA Graph 捕获时。优先排查 CUDA Graph 是否与动态卸载/反量化路径冲突,而不是先怀疑 GGUF 模型文件本身。

该报错通常出现在工作流中把 If/Else 的某个分支接到了下游节点,而下游节点本身存在必填(required)输入时。ComfyUI 在执行前仍会校验走通开关之前的那段图,因此“空路径”并未被真正屏蔽,优先级是检查开关后连接节点里是否有必填输入。

如果你在 OpenAI Python SDK 中使用 gpt-audio-mini 或 gpt-audio-mini-2025-12-15 时遇到类型检查报错、IDE 警告或序列化/校验失败,通常是 SDK 内置的 ChatModel 类型未收录该模型。优先升级 SDK 到已包含这两个模型名的版本。

在长时间运行的服务里反复调用 Async Responses 的 responses.parse() 解析 Pydantic 结构化输出(Async Responses Structured Outputs Memory leak)时,RSS 会随请求数线性增长直至 OOM。优先排查 openai/

这个报错通常出现在你对 Diffusers 的 Flux 等模型使用 torch.compile ,同时又启用了 Flash/Sage 的 varlen(变长)注意力后端时。优先排查是否用了 varlen API,以及能否切换到 static-length(定长)API 或使用定长序列推理。
![[Bug]: Qwen3.5 structured output doesn't work](https://www.chat-gpts.plus/wp-content/uploads/2026/09/35700-bd9ee480-768x403.jpg)
在 vLLM 上通过 OpenAI 兼容接口为 Qwen3.5 提供 structured output 时,thinking 模式下返回的 JSON 可能被 markdown 代码块包裹(如 ```json ... ```),或在启用 MTP 投机解码时违反 response_format 约束。
![[Model Support] DeepSeek-V4.1 Tracking Issue](https://www.chat-gpts.plus/wp-content/uploads/2026/09/56400-8f0f3572-768x403.jpg)
这是 DeepSeek-V4.1(DSv4.1)模型支持的 Tracking Issue,不是单一报错。若你在 vLLM 加载 DeepSeek-V4.1-Flash 时遇到模型无法解析(如 [Model Support] DeepSeek-V4.1 Tracking Issue )、ROCm 段错

这个报错通常出现在 Open WebUI 的 New Chat 页面已经带有临时聊天参数、但页面是通过应用内导航(例如浏览器 Back 按钮)返回而没有发生整页加载时。此时地址栏显示临时聊天参数,但临时模式没有开启,输入内容会被正常保存;优先排查临时聊天参数的读取时机是否只在布局挂载时执行。

这个报错通常发生在 Ollama 以 Docker 容器方式运行、同时接入了 Intel iGPU 的机器上——容器只看到 CPU,日志里明确写出 "Not utilizing Intel QuickSync iGPU",原因是集显被 Ollama 默认丢弃。优先排查是否设置了 OLLAMA_IGP