AI 工具排错、提示词与实用教程

该报错发生在 vLLM 于 ROCm 环境下运行时，由于 PR #50879 引入的回归导致 `tilelang` 被加载，进而在 ROCm 平台上错误地加载了 `hipMalloc`，引发测试失败和显存分配失败。优先排查是否可在该环境下禁用或绕过 `tilelang` 的加载路径。

该报错通常发生在 AMD ROCm 平台（gfx950/MI355）运行 Quark MXFP4 量化模型时，vLLM 将 `w_mxfp4_a_mxfp4` 量化路径调度到 AITER 原生 MXFP4 内核后输出损坏。优先排查 vLLM 中 `QuarkOCP_MX` 和 `QuarkOCP_M

该报错发生在 vLLM 使用 MTP（Multi-Token Prediction）投机解码加载 Gemma 4 31B 模型的 draft 参数时，因为模型存在异构注意力层（不同层 head_dim 不同），参数加载时按全局 head_dim 切片越界。优先排查 vLLM 版本是否低于 0.27.