AttributeError: ‘_OpNamespace’ ‘_C’ object has no attribute ‘fused_kimi_k3_mla_decode_q_concat_kv_cache_insert’

快速结论：这个报错通常出现在 Intel XPU 上加载 Kimi-Linear-48B-A3B（及同属 Kimi-K3 家族）模型并首次执行 attention forward 时，原因是 MLA 的两个 CUDA-only 融合算子没有 XPU 实现。优先确认 vllm-xpu-kernels 是否已包含对应 SYCL 算子注册，再确认 vLLM 是否有 XPU 平台接线。

适用环境：Issue 涉及 vLLM（XPU 后端）、GitHub Labels 为 intel-gpu、kimi、k3；测试平台提到 B70，dtype 为 bf16/fp16。Issue 未给出明确的 Python、CUDA、PyTorch、驱动版本号，因此这些项不做断言。

最快修复方案：暂无确认的一步修复方案。Issue 明确说明修复由两个仓库的 PR 共同完成：先合入 vllm-xpu-kernels 的 SYCL 算子实现（注册同名 op/schema，torch::kXPU），再合入 vLLM 侧的 XPU 包与平台接线；依赖顺序为算子 PR 在前、vLLM PR 在后。可优先尝试将这两个依赖更新到包含对应 PR 的版本。

注意事项：Issue 指出 SYCL 实现目前仅支持 bf16/fp16；性能上 op 级微基准相对通用三段式组合（RoPE 算子 + cat + concat_and_cache_mla）约有 2.9-4.9x 加速，但端到端影响尚未测量。此外 vLLM 侧还需修掉 nvidia/kda_metadata.py 中一个 CUDA-only 的过时 assert，否则平台通用 Triton launcher 仍可能被拦住。

问题场景

在 Intel XPU 上运行 vLLM 推理 Kimi-Linear-48B-A3B（或其他 Kimi-K3 家族模型）时，服务在第一次 attention forward 就崩溃。Kimi-Linear 被合并进共享的 Kimi-K3 模型实现（#50000）后，其 MLA epilogue（RoPE + K/Q concat + paged-cache insert）改为调用两个 CUDA-only 的融合自定义算子。实际服务流量下，最先命中 decode 路径，因此报错来自 decode 算子。

报错原文

AttributeError: '_OpNamespace' '_C' object has no attribute 'fused_kimi_k3_mla_decode_q_concat_kv_cache_insert'

原因分析

最可能的原因是这两个融合算子只注册了 CUDA 实现，没有 XPU 注册，导致在 XPU tensor 上 torch.ops._C.<name> 无法解析：

fused_kimi_k3_mla_key_concat_kv_cache_insert（prefill）
fused_kimi_k3_mla_decode_q_concat_kv_cache_insert（decode）

Issue 补充的次要因素是 vLLM 侧 nvidia/kda_metadata.py 中有一个过时的 CUDA-only assert，它保护的是一个本可跨平台的 Triton launcher，因此即使算子就位也可能被该断言挡住。

环境排查

确认 vllm-xpu-kernels 版本是否包含两个 op 的 SYCL 实现，且以 torch::kXPU 注册了相同 op 名与 schema。
确认 vLLM 版本是否包含 vllm/models/kimi_k3/xpu/ 包以及 kimi_k3/__init__.py 中的 current_platform.is_xpu() 接线。
确认 nvidia/kda_metadata.py 中那个 CUDA-only assert 是否已被修复。
确认运行 dtype 落在 bf16/fp16 范围内，当前 SYCL 实现只覆盖这两种。
确认输入 slot mapping 是否为顺序映射，非顺序场景属于 Issue 提到的边界测试项。

解决步骤

先更新 vllm-xpu-kernels 到包含对应 SYCL 算子实现（PR #592 或 #480，见参考来源）的版本；这是依赖链的第一环，vLLM 的 XPU 路径会调用这里注册的 op。
再更新 vLLM 到包含 XPU 接线修复（PR #56462 或 #49598）的版本，使 kimi_k3 在 XPU 平台上走正确的类与 launcher。
确认 nvidia/kda_metadata.py 中 CUDA-only 的 assert 已被移除或放宽，避免平台通用 Triton launcher 被误拦截。
若更新后仍报找不到 op，检查安装的 vllm-xpu-kernels 与 vLLM 是否来自同一套匹配版本，避免算子先于 vLLM 生效或缺位。
按 Issue 的测试计划做一次正确性验证：RoPE 开/关 × 多种 shape，以及非顺序 slot mapping 边界用例。

验证方法

在 XPU 上重新启动 Kimi-Linear-48B-A3B-Instruct 服务（Issue 测试计划为 TP=4 serve），确认首次 attention forward 不再抛出 AttributeError: '_OpNamespace' '_C' object has no attribute 'fused_kimi_k3_mla_decode_q_concat_kv_cache_insert'，并能在 decode 阶段持续输出。随后跑一遍准确率评测，对照纯 PyTorch 参考实现确认算子结果一致；若关注性能，可参考 op 级微基准，但端到端提升 Issue 中尚未测量。