RuntimeError: Engine core initialization failed` with the assert only visible in EngineCore stderr.

快速结论：当 MoE 模型同时启用 LoRA（enable_lora）并把 max_lora_rank 设成大于 128（例如 320）时，vLLM 引擎启动阶段会命中 fused_moe_lora_one_shot supports max_lora_rank<=128 断言并崩溃；优先确认版本是否已包含 #55161 修复。

适用环境：Issue 报告环境为 Ubuntu 22.04.4、Python 3.12.13、PyTorch 2.13.0+cu130、CUDA runtime 12.6.20、NVIDIA RTX A6000 与 RTX 5880 Ada Generation 混合多卡；受影响版本为在 #55161 修复合入前拉出的 v0.31.0。

最快修复方案：升级到包含 #55161 的版本（v0.31.1rc0 / v0.32.0rc0 或更新的 nightly），或在配置中把 max_lora_rank 降到 128 以内，或启用 fully_sharded_loras=True 以绕开 one-shot kernel。

注意事项：升级到大 rank 后走的是 tiled shrink/expand 路径，比 one-shot kernel 慢；fully_sharded_loras=True 同样只是绕开 one-shot kernel，并非启用大 rank 的加速路径。降 rank 到 128 与真正支持 320 是两回事，需按业务精度需求确认。

问题场景

用户在 MoE（Mixture-of-Experts）模型上通过 vLLM 启动推理服务，同时开启 LoRA 支持（enable_lora），并把 max_lora_rank 设为 320。引擎在启动初始化阶段即崩溃，无法进入正常服务状态。断言细节只出现在 EngineCore 的 stderr 中，主进程日志里只看到笼统的 RuntimeError: Engine core initialization failed，容易误判为显存或驱动问题。

报错原文

RuntimeError: Engine core initialization failed
AssertionError: fused_moe_lora_one_shot supports max_lora_rank<=128

原因分析

_fused_moe_lora 的分发逻辑中，one-shot kernel 只支持 max_lora_rank <= 128。在受影响的版本里，配置中较大的 max_lora_rank（如 320）被直接路由到 one-shot kernel，于是断言在引擎启动期被触发。这属于配置分发逻辑的缺陷，而不是 GPU、显存或驱动问题，所以表现为启动即失败、且报错信息只藏在下游 EngineCore 的 stderr 里。

环境排查

确认 vLLM 版本：v0.31.0 在 #55161 修复合入前拉出，属于受影响版本；用 git tag --contains 8c60714da 可查看哪些版本包含该修复。
确认是否在 MoE 模型上启用 enable_lora，以及 max_lora_rank 的实际取值是否大于 128。
确认是否设置了 fully_sharded_loras，该选项会避开 one-shot kernel 路径。
确认是否改装了 nightly 或 rc 版本（v0.31.1rc0 / v0.32.0rc0）。
确认所报的 EngineCore stderr 内容，避免只看主进程的 RuntimeError 而漏掉根因断言。

解决步骤

先用 git tag --contains 8c60714da 确认当前版本是否已包含 #55161；v0.31.0 不包含。
可优先尝试升级到 v0.31.1rc0、v0.32.0rc0 或更新的 nightly，这些版本的分发逻辑会把 max_lora_rank <= 128 交给 one-shot kernel，把更大 rank 路由到 tiled shrink/expand 路径，断言不再从配置触发。
若暂时无法升级，可优先尝试把 max_lora_rank 降到 128 以内，使配置不再进入大 rank 分支。
或者可优先尝试设置 fully_sharded_loras=True，该选项同样可以避开 one-shot kernel。
升级或改配置后重启引擎，观察 EngineCore stderr 是否仍出现该断言。

验证方法

以 max_lora_rank=320 重新启动 MoE + LoRA 服务，确认引擎能正常完成初始化并对外提供推理请求；同时检查 EngineCore 的 stderr 中不再出现 fused_moe_lora_one_shot supports max_lora_rank<=128 断言。若升级到含修复的版本，能观察到走的是较慢的 tiled 路径。