ImportError:` precisely so the flashinfer fusion path stays optional. The guard does not fire here because the failure is an `AttributeError`

问题场景

vLLM CI 测试中，Buildkite 步骤 “Async Engine, Inputs, Utils, Worker, Config (CPU)” 执行 `pytest -v -s -m ‘cpu_test’ multimodal` 时，测试收集阶段失败。错误源于 `tests/multimodal/test_video.py` 文件在 CPU 环境下导入 `vllm.models.minimax_m3.common.mm_preprocess`，进而触发了一系列依赖导入，最终落在 `rms_quant_fusion.py` 中对不存在的算子 `torch.ops._C.rms_norm_static_fp8_quant` 的直接访问。

报错原文

E   AttributeError: '_OpNamespace' '_C' object has no attribute 'rms_norm_static_fp8_quant'
=========================== short test summary info ============================
ERROR multimodal/test_video.py - AttributeError: '_OpNamespace' '_C' object has no attribute 'rms_norm_static_fp8_quant'

原因分析

文件 vllm/compilation/passes/fusion/rms_quant_fusion.py 第 121 行在模块顶层直接通过 torch.ops._C.rms_norm_static_fp8_quant.default 访问算子。这三个算子（rms_norm_static_fp8_quant、fused_add_rms_norm_static_fp8_quant、rms_norm_dynamic_per_token_quant）仅在 CUDA 和 ROCm 的 C++ 扩展中注册（注册于 csrc/libtorch_stable/torch_bindings.cpp），CPU 扩展并未提供。虽然同文件中其他算子（如 rms_norm_per_block_quant、per_token_group_fp8_quant）均使用 __getattr__ 或 hasattr 做了保护，但 FUSED_OPS 部分缺乏检查。

触发链：PR #50092 在 tests/multimodal/test_video.py 中添加了 from vllm.models.minimax_m3.common.mm_preprocess import MiniMaxM3VideoBackend，该导入在 CPU 环境下会依次加载 vllm/models/minimax_m3/__init__.py → .nvidia.model → fused_allreduce_gemma_rms_norm → allreduce_rms_fusion → rms_quant_fusion.py，最终因无保护的 FUSED_OPS 访问而报错。

环境排查

• 确认是否在 CPU 环境（无 CUDA 或 ROCm）下运行测试。
• 检查 vllm/compilation/passes/fusion/rms_quant_fusion.py 中 FUSED_OPS 的定义处是否有 hasattr 或异常捕获。
• 查看 csrc/cpu/torch_bindings.cpp 中是否注册了这三个算子的 placeholder（当前未注册，而 QUANT_OPS 需要的三个算子已注册了 stub）。
• 确认是否由于合并了 PR #50092 或类似修改导致 CPU 测试引入 GPU 依赖路径。

解决步骤

1. 优先尝试永久修复：修改 vllm/compilation/passes/fusion/rms_quant_fusion.py，将 FUSED_OPS 中的 torch.ops._C.rms_norm_static_fp8_quant 访问改用 hasattr(torch.ops._C, 'rms_norm_static_fp8_quant') 进行保护，未找到时跳过该条目。具体可参考 PR #50316 的实现。
2. 临时回滚：如果仅需恢复 CI，可回滚 PR #50092 的改动，即从 tests/multimodal/test_video.py 中移除 from vllm.models.minimax_m3.common.mm_preprocess import MiniMaxM3VideoBackend 或将其置于 GPU 条件编译中。
3. 检查其他类似导入：确保所有在 CPU 路径下可能访问 torch.ops._C 中特定 GPU
   

   参考来源

   vllm-project/vllm #50310

   

   AI 工具推荐

   想把多个 AI 模型放在一个入口？

   GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

   了解 GamsGo AI

   推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

   这个方案解决了吗？

   解决了还没有