Eval bug: CUDA MoE MMQ illegal memory access at ubatch 512 (src1 padding uses ne11 instead of gathered columns)

这个报错通常出现在 llama.cpp 使用 CUDA 后端、以较大 ubatch (例如 512)对 MoE 模型做 MUL_MAT_ID 推理时,报错原文为 Eval bug: CUDA MoE MMQ illegal memory access at ubatch 512 (src1 padd








