![[Bug]: ROCm Stack DeepSeekv4.1 Flash Issue spamming logs with GLUON backend not available. Using TRITON backend!!!](https://www.chat-gpts.plus/wp-content/uploads/2026/10/56540-24ccf306-768x403.jpg)
在 ROCm 环境启动 DeepSeekv4.1 Flash 时，工作进程里反复打印 GLUON backend not available. Using TRITON backend!!! ，通常意味着 AITER 的 GLUON 后端没有启用或不可用，系统退回 TRITON 后端继续运行，功能不
![[Bug]: DFLASH2 force reprocesses context every reply](https://www.chat-gpts.plus/wp-content/uploads/2026/10/53477-e0a951be-768x403.jpg)
该报错出现在 vLLM 配合 DFlash2 草稿模型做推测解码、并启用前缀缓存的长对话场景中：每次回复都无法复用已有上下文，系统会把整段 prompt 重新做一遍 prefill，具体表现为相同请求的前缀缓存命中数始终为 0，TTFT（首 token 延迟）明显偏高。排查时应优先检查前缀缓存命中计
alphaXiv 上公开的论文 FrontierCS 2 提出一个包含 48 个开放式任务的基准，把 LLM 智能体放进真实研究代码库，要求它补回论文被删掉的核心贡献；最强智能体 Claude Opus 5.5 在测试中通过 58% 的运行，另有 16 个任务无人通过。
在 RAGFlow 的数据集解析器表单里给 manual chunker 填了 method / chunk_token_cap / include_heading_content ，保存成功但切分时完全不生效，属于“保存成功但配置被静默丢弃”的情况。优先确认当前版本是否已包含 #20220 的修复
![[Bug]: Proxy keeps upstream LLM connection open after a streaming client disconnects; backend keeps generating or stays blocked](https://www.chat-gpts.plus/wp-content/uploads/2026/10/30244-70d90a5d-768x403.jpg)
该问题通常发生在 LiteLLM Proxy 流式转发（stream=true）过程中，客户端中途断开或停止读取时，Proxy 未关闭上游 LLM 连接，导致后端持续生成或阻塞；应优先排查客户端断开路径上是否真正调用了 CustomStreamWrapper.aclose() ，以及超时配置是否兜底
“Feature Request: Two-tier GPU+RAM expert cache for MoE offload (pluggable eviction policy)” 不是运行报错，而是针对 `--cpu-moe` 场景下每个 token 重复从 RAM 向 GPU 拷贝热点专家的
"Misc. bug: Nemotron 3 / 3.5 GGUFs are tagged "pixtral" and get the wrong pre-tokenizer" 通常出现在用 llama.cpp 加载 Nemotron 3 / 3.5 系列 GGUF（如 Nemotron-3-Nan
当 GGUF 词表对应的 Hugging Face tokenizer 不需要清理空格时，llama.cpp 仍对 BPE 词表启用了 clean_spaces，导致 llama_detokenize 删掉 “!”“?”“.”“,” 前面的空格以及 “'s”“'re” 前面的空格，表现为解码文本与原
![[Bug]: Wide speculative decoding verify (num_speculative_tokens ≥ 7) samples EOS at `prompt_len+8` on hybrid GDN models (Qwen3.5): silent ea](https://www.chat-gpts.plus/wp-content/uploads/2026/10/61738-8d640711-768x403.jpg)
在 vLLM 启用投机解码（speculative decoding）跑 Qwen3.5 这类 hybrid GDN 模型时，可能在第 10 个 token 附近静默提前停止（ finish_reason=stop ），输出在 EOS 行之前逐字节干净；Issue 讨论最终判定为 bf16 下 EO
该报错通常发生在使用 Ollama 加载新模型 Flint 时，底层 llama-server 进程因无法识别模型架构而退出。优先确认当前 llama.cpp 与 Ollama 大版本是否已包含 Flint 架构支持，而不是先排查显卡或显存问题。