标签： LLM

该报错发生在 vLLM 于 ROCm 环境下运行时，由于 PR #50879 引入的回归导致 `tilelang` 被加载，进而在 ROCm 平台上错误地加载了 `hipMalloc`，引发测试失败和显存分配失败。优先排查是否可在该环境下禁用或绕过 `tilelang` 的加载路径。

该报错通常发生在 AMD ROCm 平台（gfx950/MI355）运行 Quark MXFP4 量化模型时，vLLM 将 `w_mxfp4_a_mxfp4` 量化路径调度到 AITER 原生 MXFP4 内核后输出损坏。优先排查 vLLM 中 `QuarkOCP_MX` 和 `QuarkOCP_M

该报错发生在 vLLM 使用 MTP（Multi-Token Prediction）投机解码加载 Gemma 4 31B 模型的 draft 参数时，因为模型存在异构注意力层（不同层 head_dim 不同），参数加载时按全局 head_dim 切片越界。优先排查 vLLM 版本是否低于 0.27.

该报错通常发生在通过源码方式部署 RAGFlow 后上传 PDF 等文件时，系统提示文件过大但实际文件只有 2MB。优先排查 MAX_CONTENT_LENGTH 环境变量是否生效，并确认是否存在 Python 内置上传限制或反向代理（如 Nginx）的额外限制。