Misc. bug: Performance drop of Qwen3.8 in llama.cpp with a large number of tool triggers

该性能下降问题发生在 llama.cpp 的 llama-server 使用带大量工具触发的模型(如 Qwen3.8-27B)进行长文本生成时,原因是“lazy grammar”实现了 O(n²) 复杂度的触发器搜索。优先检查你的工具调用模板是否会为每个工具生成独立的 WORD 触发器,以及是否运行

该性能下降问题发生在 llama.cpp 的 llama-server 使用带大量工具触发的模型(如 Qwen3.8-27B)进行长文本生成时,原因是“lazy grammar”实现了 O(n²) 复杂度的触发器搜索。优先检查你的工具调用模板是否会为每个工具生成独立的 WORD 触发器,以及是否运行

这是 llama.cpp 在 Mali-G925 Vulkan 后端运行 Qwen3.5 多模态模型时,前向填充阶段产生全 NaN logits 的数值缺陷,优先缩小 MUL_MAT 小 tile 的匹配范围(m≤32 且 n>32 时改用 medium tile)即可解决。

该报错发生在 llama.cpp 的 GitHub Actions 自动更新 winget-pkgs 包时,主要原因是 ggml-bot-2 的 winget-pkgs 仓库 fork 与上游 microsoft/winget-pkgs 的 master 分支不同步,优先检查并同步 fork 仓库即

该报错发生在 vLLM 使用 FlashMLA 稀疏 FP8 混合批次解码路径时,稀疏解码内核会分配一个随 --max-num-batched-tokens 线性增长的工作区,且该工作区不受启动时内存预检约束,批次增大后触发运行时 CUDA OOM。优先排查方向是调低 --max-num-batch
![[Question]: Errors for `docker compose -f docker/docker-compose.yml up -d`](https://www.chat-gpts.plus/wp-content/uploads/2026/08/4775-fa4e8ce3-768x403.jpg)
在 RAGFlow 使用 docker compose -f docker/docker-compose.yml up -d 启动时,阿里云/华为云服务器上常见的报错是拉取镜像时出现 TLS 证书校验失败。优先排查 Docker 镜像源(Registry Mirror)配置,必要时更换网络环境或配置
![[Question]: Error Code 3013 When Viewing Parsed Document Chunk in Ragflow with Infinity](https://www.chat-gpts.plus/wp-content/uploads/2026/08/4484-978a9453-768x403.jpg)
该报错发生在 RAGFlow 使用 Infinity 作为向量数据库时,查看已解析文档的 Chunk 触发检索接口,Infinity 返回“Fail to bind the expression: tag_feas”错误(Error Code 3013)。优先排查 RAGFlow 与 Infinit
![[Bug]: Using DeepSeek with LlamaIndex causes a 400 Bad Request because LlamaIndex calls the deprecated /v1/completions text endpoint instead](https://www.chat-gpts.plus/wp-content/uploads/2026/08/22846-c859ce1c-768x403.jpg)
当 LlamaIndex 配合 DeepSeek 模型使用 OpenAILike 时,会因默认调用已废弃的 /v1/completions 文本补全端点而返回 400 Bad Request。优先排查是否显式设置了 is_chat_model=True ,并确认 model 与 api_base 参

此报错主要出现在 Vulkan 后端的 Adreno 系列 GPU(子组大小 subgroupSize=128)上,运行 batched、broadcast、partial-tile 形状的矩阵乘法时导致 matmul 结果错误。优先排查并修复 ggml-vulkan 中 warptile 的 WA

这个报错通常发生在 llama-server 运行 gpt-oss-20b 模型、使用工具调用且开启 prompt cache 复用时,模型生成了不符合 Harmony 通道格式的畸形 头,导致整个回合的 PEG 解析失败。优先排查 cache 复用( --cache-reu

这个报错发生在 vLLM 0.24.0 专门为 SM8.6(Ampere)架构构建、并启用量化模型(AWQ/compressed-tensors)与投机解码时。优先排查 vllm/platforms/cuda.py 第 45 行附近的模块级导入是否使用了 logger.warning (每次导入都会