Misc. bug: Severe drop in prompt processing speed after b10780 on Vulkan, RDNA3

在 Vulkan 后端、RDNA3 显卡(Radeon 7900 XTX)上使用 llama.cpp 处理长提示词(约 5 万 token 级别)时,从 b10780 之后的版本开始出现严重的 prompt processing 速度下降;首要排查点是 b10781 起引入的 scratch buf

在 Vulkan 后端、RDNA3 显卡(Radeon 7900 XTX)上使用 llama.cpp 处理长提示词(约 5 万 token 级别)时,从 b10780 之后的版本开始出现严重的 prompt processing 速度下降;首要排查点是 b10781 起引入的 scratch buf
![[Bug]: A multimodal item can still be split across prefill chunks with disable_chunked_mm_input=True](https://www.chat-gpts.plus/wp-content/uploads/2026/10/52306-3338f536-768x403.jpg)
该问题出现在 vLLM 调度器启用 disable_chunked_mm_input=True (即禁止多模态输入分块)时,单个多模态 item 仍可能被拆到多个 prefill chunk 中执行;优先排查 self.scheduler_config.disable_chunked_mm_inpu

当 MoE 模型同时启用 LoRA( enable_lora )并把 max_lora_rank 设成大于 128(例如 320)时,vLLM 引擎启动阶段会命中 fused_moe_lora_one_shot supports max_lora_rank<=128 断言并崩溃;优先确认版本是否已包

这个报错通常出现在使用 DynamicCache(offloading=True) 加载混合 Gated-DeltaNet + attention 架构模型(如 Qwen3.8-27B)时,第二次 forward 复用缓存后 logits 出现远超 bf16 舍入误差的数值偏差,优先排查 offlo
![ValueError: The number of images in the text [2] and images [1] should be the same.](https://www.chat-gpts.plus/wp-content/uploads/2026/10/47217-a358ec78-768x403.jpg)
该报错通常出现在部分视觉语言(VL)模型上:当用户在文本里手动写入了模型的图像占位符(例如 )时, apply_chat_template(..., tokenize=True) 会因为字符串匹配到两个占位符而抛错。优先排查用户文本中是否误写了占位符,并确认所使用处理器的占位符计数逻

该报错通常出现在 n8n 工作流调用 Output Parser 节点、并配合 LLM(本例为 Gemini 模型)执行 function calling / 工具调用时,模型返回内容不符合解析器要求的格式,导致执行随机失败。优先排查模型是否正确触发工具调用,以及 Output Parser 的格式

在 ComfyUI 0.37.4 配合 ComfyUI-MultiGPU 跑 MiniMax H3 时,纯推理(不挂 LoRA)正常,一旦加载 LoRA 节点就抛出 No module named 'OpenGL_accelerate' 。优先排查自定义节点(MultiGPU 相关)与当前 Comf
![[BUG]: AnythingLLM Desktop 1.17.0 blocked by Windows 11 Smart App Control — unsigned executable](https://www.chat-gpts.plus/wp-content/uploads/2026/10/6714-c6d5499a-768x403.jpg)
当 Windows 11 开启 Smart App Control 时,AnythingLLM Desktop 1.17.0 可能因内置的 AnythingLLM.exe 未做 Authenticode 签名而被 Windows Code Integrity 拦截,导致应用在启动前即被阻止。优先排查

当 Accelerate 配合 DeepSpeed Zero 与 schedule-free 优化器(如 ProdigyPlusScheduleFree)时, AcceleratedOptimizer.eval() 不会像 train() 那样穿透 DeepSpeed 额外包装的优化器层,导致调用
![[Bug]: Databricks service_tier is dropped in request translation, streaming, and pricing](https://www.chat-gpts.plus/wp-content/uploads/2026/10/41834-421ec28c-768x403.jpg)
在 LiteLLM 1.100.0 中调用 Databricks 模型并传入 service_tier="priority" 时,该字段会在请求翻译、参数过滤、流式聚合和计费环节被丢弃,导致 priority 费率未生效或返回层级丢失。优先排查 Databricks 的 supported para