标签： LLM

该报错通常出现在 vLLM 使用 ROCm 平台 + AITER FP8 MoE 后端运行 DeepSeek V3，并同时开启 TP8 + 数据并行注意力（DPA）时；优先排查是否使用了足够新的 vLLM ROCm nightly 镜像，旧版本中 AITER FP8 BMM 预编译内核可能触发段错误

该报错通常出现在启用 Rust 前端（ VLLM_USE_RUST_FRONTEND=1 ）的 vLLM 0.22.0 环境中，优先排查 Rust 前端子进程自身的启动日志，以及当前版本是否包含已知的 Rust 前端兼容性问题。

该报错通常出现在启用 Rust 前端（ VLLM_USE_RUST_FRONTEND=1 ）的 vLLM 0.22.0 环境中，优先排查 Rust 前端子进程自身的启动日志，以及当前版本是否包含已知的 Rust 前端兼容性问题。

该报错通常发生在 RAGFlow 的“嵌入网页”共享聊天链接中，当用户未登录或通过无痕/其他浏览器访问时，文档检索（知识库内容）失败，而聊天界面本身可以正常打开。优先检查 RAGFlow 版本是否低于 v0.25.1，因为共享链接缺少知识库检索参数注入是已知根因，已在后续版本修复。

该报错通常发生在 NVIDIA GB10（sm_121 架构）设备上尝试启动 DeepSeek-V4 模型时，vLLM 检测到 DeepGEMM 可用但没有正确的架构判断，导致在编译内核中触发断言错误。优先排查是否通过环境变量或补丁正确限制了 DeepGEMM 在 sm_121 上的启用。

该报错是 vLLM 在使用张量并行（TP=2）初始化 NCCL 后卡死，常见于 Blackwell 架构 GPU（如 RTX PRO 6000、RTX 5090、B300）且未启用 NVLink、依赖 PCIe 通信的场景。优先排查 BIOS 中的 IOMMU / ACS 是否开启，并尝试禁用 P2