标签： LLM

该报错通常出现在用 vLLM 加载 Zamba2 模型并同时启用 LoRA 的场景：Zamba2 并不支持 vLLM LoRA，但这一限制未在配置校验阶段拦截，而是在 worker 加载模型、进入 Zamba2Model.__init__ 时才由一条无消息的 assert not is_lora_e

在 vLLM 中给 Qwen3-VL 等“文本主干挂在 language_model 下”的多模态 wrapper 模型加载纯文本 PEFT LoRA 时，适配器可能静默失效（no-op），加载日志无明显报错但输出等同基座模型。优先排查该模型的 hf_to_vllm_mapper 是否缺少裸 mod

该现象出现在 vLLM 使用 OffloadingConnector + TieringOffloadingSpec 的 "fs" 二级缓存、两个独立引擎实例共享同一 root_dir 时：B 实例查询 A 写入的前缀后， vllm:kv_offload_tiering_active_promoti

该问题通常出现在升级到含 Vulkan 多设备相关改动的 llama.cpp 版本后（Issue 中指向 b11594 及之后的构建），在多块 Vulkan 设备（尤其双 RADV/AMD 显卡，或 NVIDIA + AMD 混合环境）上跑模型时生成速度骤降。优先排查是否处于多设备 Vulkan 环

该报错（stack buffer overflow in clip_encode MiniCPM-V position buckets via malicious mmproj (bucket_coords_h[1024] written for i < pos_h)）出现在 llama.cpp/l