标签： LLM

这个报错通常出现在 Ubuntu 桌面环境下用 TextGen WebUI 或 Linux 便携包（Electron 桌面版）加载 GGUF / mmproj 模型时，前端 GUI 能打开但模型加载进程崩溃或提示加载失败。优先排查 Electron 启动链路与本地 build 版本（4.7.x）是否

在使用 llama.cpp 的 Hexagon HTP 后端执行 F32/F16 的 GGML_OP_ADD 时，如果 src1 的 dim 1 为 1、同时在 dim 2 上有多个 slice（即按行广播但跨 dim 2 切片），HTP 内核可能读错行，导致输出出现 FLT_MAX / inf 。

该报错通常出现在 GB10（SM121）、unified memory 机器上用 vLLM 跑 Qwen4Exp 架构模型做超长 prefill（chunked prefill）时，随着 chunk 推进，QSA indexer 的 per-chunk logits buffer 尺寸逐块增大，Py

在 vLLM 中同时启用 VLLM_BATCH_INVARIANT=1 与 pass_config.enable_sp=True （或会隐式开启它的 fuse_gemm_comms=True ）时，相同请求的 logprobs / 贪心输出会随 batch 组成变化，批量不变性被破坏；优先排查是否同

该报错通常出现在 vLLM V1 引擎开启动态批处理、同时混用带 allowed_token_ids 受限请求与无限制请求时， InputBatch.condense() 会把已释放行的 stale allowed_token_ids_mask_cpu_tensor 残留下来，并被后续无限制请求复用

该报错通常出现在 vLLM V1 引擎开启动态批处理、同时混用带 allowed_token_ids 受限请求与无限制请求时， InputBatch.condense() 会把已释放行的 stale allowed_token_ids_mask_cpu_tensor 残留下来，并被后续无限制请求复用

该问题通常出现在客户端把包含 tool 角色的消息历史（例如 system → user → assistant → tool → assistant 的连续对话）提交给 Ollama 时，Ollama 返回 invalid request 并拒绝 tool 角色，而同一 GGUF 模型在 llam