![[Bug]: Proxy keeps upstream LLM connection open after a streaming client disconnects; backend keeps generating or stays blocked](https://www.chat-gpts.plus/wp-content/uploads/2026/10/30244-70d90a5d-768x403.jpg)
该问题通常发生在 LiteLLM Proxy 流式转发（stream=true）过程中，客户端中途断开或停止读取时，Proxy 未关闭上游 LLM 连接，导致后端持续生成或阻塞；应优先排查客户端断开路径上是否真正调用了 CustomStreamWrapper.aclose() ，以及超时配置是否兜底
![[Bug]: user_config routing discards the Router before the call runs](https://www.chat-gpts.plus/wp-content/uploads/2026/10/43486-47692012-768x403.jpg)
当请求体（JSON）中携带 user_config 并走 _route_user_config_request 分支时，临时构造的 Router 会在返回的协程真正 await 之前就被 discard ，导致该 Router 注册的 callbacks 在调用执行期间已经失效。优先排查 user_
![[Bug]: Responses API forwards client_metadata to custom_openai chat completions](https://www.chat-gpts.plus/wp-content/uploads/2026/10/29834-c9b4a778-768x403.jpg)
当 Codex CLI 通过 LiteLLM 的 /v1/responses 访问一个 custom_openai 后端时，LiteLLM 会把 Responses API 专有的 client_metadata 字段透传到下游 Chat Completions 调用，OpenAI SDK 不认识该
“Feature Request: Two-tier GPU+RAM expert cache for MoE offload (pluggable eviction policy)” 不是运行报错，而是针对 `--cpu-moe` 场景下每个 token 重复从 RAM 向 GPU 拷贝热点专家的
"Misc. bug: Nemotron 3 / 3.5 GGUFs are tagged "pixtral" and get the wrong pre-tokenizer" 通常出现在用 llama.cpp 加载 Nemotron 3 / 3.5 系列 GGUF（如 Nemotron-3-Nan
当 GGUF 词表对应的 Hugging Face tokenizer 不需要清理空格时，llama.cpp 仍对 BPE 词表启用了 clean_spaces，导致 llama_detokenize 删掉 “!”“?”“.”“,” 前面的空格以及 “'s”“'re” 前面的空格，表现为解码文本与原
Hugging Face Papers 收录的论文提出 PACE，一种事后四比特循环状态量化方法，通过降低舍入频率、按列共享量化尺度，让线性注意力语言模型在推理时用更少显存同时解码更多序列，且据摘要称无需微调。
在 Dify Studio 工作流中打开内嵌 Agent 节点的配置弹窗，当浏览器视口窄于 xl 断点（1280 CSS 像素）时，弹窗会丢失两栏布局：Configure 面板保留桌面端宽度，Build/Preview 折到下方，关闭按钮随预览页头下移。优先排查内嵌弹窗对共享 AgentConfig
![[Bug]: Wide speculative decoding verify (num_speculative_tokens ≥ 7) samples EOS at `prompt_len+8` on hybrid GDN models (Qwen3.5): silent ea](https://www.chat-gpts.plus/wp-content/uploads/2026/10/61738-8d640711-768x403.jpg)
在 vLLM 启用投机解码（speculative decoding）跑 Qwen3.5 这类 hybrid GDN 模型时，可能在第 10 个 token 附近静默提前停止（ finish_reason=stop ），输出在 EOS 行之前逐字节干净；Issue 讨论最终判定为 bf16 下 EO
研究人员提出 SERA，在固定底层 VLA 执行器之上，用可编辑的“外挂框架”管理高层 VLM 规划，让机器人记住任务进度并从执行反馈中修正判断。据摘要，其在 RoboMME 基准上取得 51.38% 总体成功率，相比无自进化版本提升约 7 个百分点。