分类： AI 工具排错

该 CI 失败只出现在 ROCm（MI355）的 Core Operation Kernels Shard 1 上，跑 kernels/test_concat_mla_q.py::test_concat_mla_q_fp8_nope_and_rope 相关用例时报 IndexError: tuple

该报错通常出现在 bf16 模型上同时指定 quantization="fp8" 与 kv_cache_dtype="float16" 时，vLLM 启动阶段 FlashAttention 发现 query 与 key 的 dtype 不一致而中止。优先排查 KV cache dtype 是否与模型

该报错出现在 RTX 5090（Blackwell，compute 12.0）上用 llama.cpp CUDA 后端加载 cohere2moe 架构模型（如 North-Mini-Code-1.0）进行推理时，MoE 路径的 MUL_MAT 触发 CUDA illegal memory acces

该报错通常出现在 llama.cpp 的 llama-server 以 HIP 后端、多 GPU 运行 Qwen3.5 系（如 Qwen3.5-35B-A3B）模型并启用 context checkpoint（ --ctx-checkpoints ）后，加载或匹配检查点时触发 GPU 内存访问故障。