快速结论:在 vLLM 中加载 Qwen3-VL-Reranker(走两路 softmax / 无后处理权重加载路径)时,适配器代码直接读取 tie_word_embeddings,但 Qwen3VLTextConfig 未声明该属性,导致加载中断。优先排查配置类是否缺该字段,以及 vLLM 版本是否已包含修复。
适用环境:Issue 中确认的环境:AlmaLinux 9.7(x86_64)、glibc 2.34、Python 3.12.13、PyTorch 2.13.0+cpu(CPU 构建,未使用 CUDA/ROCm)、Intel Xeon Gold 6542Y。显卡与 CUDA 版本在报告中未确认;复现时使用的是 CPU 环境。
最快修复方案:暂无确认的一步修复方案。Issue 中作者验证过的临时绕过方式未在正文给出具体命令,后续修复经 PR #59989 合入;可优先尝试升级到包含该修复的 vLLM 版本。
注意事项:评论明确指出 PR #59795 以及描述中的建议(用 getattr 默认 False)是不正确的——False 作为通用回退值可能让其他模型得到错误结果,因此不要按该思路自行改代码。Qwen3-VL 恰好是 tie_word_embeddings=False,所以原工作绕过了这个问题,但这不适用于其他模型。
问题场景
用户在 vLLM 中加载 Qwen3-VL-Reranker 模型时触发该问题,属于模型加载阶段失败,尚未进入推理。报错源于 adapters.py 中的两个权重加载函数:load_weights_using_from_2_way_softmax 和 load_weights_no_post_processing,它们在读取模型配置的 tie_word_embeddings 字段时发生属性缺失。
报错原文
AttributeError: 'Qwen3VLTextConfig' object has no attribute 'tie_word_embeddings'
原因分析
最可能的原因是:vLLM 的权重加载适配器对 tie_word_embeddings 做了直接属性访问,而 Qwen3VLTextConfig 这个文本子配置类本身没有声明该属性(父配置中虽有声明),因此抛出 AttributeError。这属于配置类与适配器代码之间的字段兼容性问题,与模型权重文件本身无关。
需要特别说明:Issue 作者和评论者都指出,用 getattr(..., False) 作为默认回退虽然能让 Qwen3-VL 通过加载,但对其他模型可能产生错误结果,因此这是不正确的修复方向。
环境排查
- 确认 vLLM 版本是否已包含 PR #59989 的修复;这是本 Issue 的最终处理方式。
- 确认 Python 版本与 PyTorch 版本(Issue 环境中为 Python 3.12.13、PyTorch 2.13.0+cpu);若使用 GPU,需另外确认 CUDA 或 ROCm 构建是否与 vLLM 匹配,Issue 未提供该信息。
- 确认加载的模型为 Qwen3-VL-Reranker,并确认走的是 2-way softmax 或无后处理的权重加载路径。
- 确认没有自行套用 PR #59795 或基于
False默认值的临时补丁,以免掩盖真实问题或引入错误结果。
解决步骤
- 不要在本地按
getattr(..., False)的方式修改adapters.py;评论已确认该思路不正确,可能导致其他模型权重绑定结果错误。 - 可优先尝试升级 vLLM 至包含 PR #59989 修复的版本,并通过 Issue 或发布说明确认该 PR 已在目标版本中。
- 若暂时无法升级,可参考 Issue 原作者使用的临时绕过方式(正文未给出具体细节,需回看原始 Issue 讨论);仅将其视为临时手段,不要视作通用修复。
- 升级或处理后重新加载 Qwen3-VL-Reranker,确认加载流程完整走完。
验证方法
重新执行相同的模型加载流程,确认不再出现 AttributeError: 'Qwen3VLTextConfig' object has no attribute 'tie_word_embeddings',且模型能正常完成加载。若修复后与其他模型混用,建议额外用相应模型做一次加载验证,确认没有因权重绑定处理变化而产生异常结果。
参考来源
相关修复 PR:#59989(最终修复);#59795(评论确认方向不正确)。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。


![[Bug]: [Usage]: RTX PRO 5000 (SM120) deadlocks at 3-4W during vLLM 0.32.0 startup with 70B NVFP4 model, even with --enforce-eager](https://www.chat-gpts.plus/wp-content/uploads/2026/10/63536-a00b257b-768x403.jpg)