[Bug]: vllm: error: unrecognized arguments: –task embedding

问题场景

用户在 vLLM 环境中使用 `vllm serve` 命令部署 Qwen3-VL-Embedding-8B 模型，命令中包含了 `–task embedding` 参数，启动时触发了参数解析错误，导致服务无法启动。

报错原文

[Bug]: vllm: error: unrecognized arguments: --task embedding

原因分析

根本原因是 vLLM 0.16.x 版本的 `vllm serve` 命令不支持 `–task` 作为命令行参数。嵌入模型的类型和行为是由模型架构本身决定的，而不是通过 CLI 参数指定。该参数可能是用户从其他工具或旧版本 vLLM 的习惯性用法继承而来，在 0.16.0 中并不适用。

环境排查

• 确认 vLLM 版本：运行 `pip show vllm` 检查，Issue 中用户为 0.16.0。
• 确认模型路径与模型类型：Qwen3-VL-Embedding-8B 是多模态嵌入模型。
• 检查 GPU 环境：用户使用了 `–tensor-parallel-size 8`，需确认多卡显卡型号与显存足够。

解决步骤

1. 移除启动命令中的 --task embedding 参数。
2. 使用以下命令重新启动服务（参考 Issue 中验证过的命令）：

vllm serve /data/model/Qwen3-VL-Embedding-8B \
  --host 0.0.0.0 \
  --port 8011 \
  --served-model-name Qwen3-VL-Embedding-8B \
  --trust-remote-code \
  --max-model-len 8192 \
  --dtype bfloat16 \
  --tensor-parallel-size 8 \
  --gpu-memory-utilization 0.85 \
  --enforce-eager

3. 启动后直接调用嵌入端点：POST /v1/embeddings。

验证方法

服务启动后，观察日志确认 API 路由列表中出现 `/v1/embeddings`。然后向该端点发送测试请求，若能正常返回嵌入向量，则问题已解决。若路由列表中缺少该端点，则需进一步检查 vLLM 版本对多模态嵌入模型的支持情况。

参考来源

vllm-project/vllm #35603

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。