标签： LLM

该报错是 llama.cpp 的 Vulkan 后端在特定 Intel Battlemage 独立显卡（如 G31）上运行单元测试时出现的偶发性失败，优先排查 Mesa 驱动版本，降级到 Mesa 26.0.x 或升级到包含修复提交的 Mesa 26.2.x 可解决。

该报错发生在 AMD Strix Halo (gfx1151) 上使用 llama.cpp 运行 Qwen3.8-Flash-Next 模型时，一旦上下文超过约 1K tokens，解码速度会出现 3.5-4 倍的断崖式下降。优先排查 HIP 后端是否因缺少 hipCUB 支持而将 ggml_top

该报错发生在 llama.cpp 默认构建（GGML_CUDA_FA_ALL_QUANTS=OFF）下，对 KV 缓存使用 q5_0/q5_1（或 q4_1）量化类型并开启 -fa on （Flash Attention）时，CUDA 后端会静默拒绝算子并回退到 CPU 注意力，导致性能大幅下降且无

该报错发生在 llama.cpp 服务器同时启用 --fit on 与 --sleep-idle-seconds 时，模型每次从休眠唤醒都会重新执行显存拟合逻辑，但 tensor buffer 覆盖参数已在首次加载时被写入，导致重复设置冲突。优先排查方法是暂时关闭 --fit 并固定 --ctx-s