标签: Python

No module named ‘vllm._C’

No module named 'vllm._C'

这个报错通常出现在使用 VLLM_TARGET_DEVICE=empty 构建的 vLLM v0.20.2 上,而 v0.20.2 默认启用 V1 engine,V1 engine 的模型初始化会调用未编译进 empty 构建的 C++ 扩展,从而抛出 No module named 'vllm._