分类： AI 工具排错

该报错发生在 llama.cpp 新版本中启用 MTP（Multi-Token Prediction）头部加载 Gemma 4、Qwen 等模型时，模型加载阶段因资源分配或参数断言失败而崩溃。优先排查 llama.cpp 构建版本是否包含修复提交 73159c3（PR #28183），并尝试更新到该

llama-server 在 token 生成（decode）阶段出现 CPU 占用高、GPU 占用低的现象，通常不是 bug，而是模型加上下文所需显存超出显卡 VRAM 容量，导致权重或 KV Cache 溢出到系统内存所致。优先排查启动日志中模型权重的加载位置，并尝试降低上下文长度（-c）使模型

该报错发生在 vLLM 使用 NVIDIA DeepSeek-V3.2 或 GLM-5.2 模型并开启纯 DCP（Decode Context Parallelism，TP4+DCP4）时，fused attention 路径绕过 DCP 处理导致输出为重复乱码（如 locklocklock...