快速结论:模型在 Agent V2 页面被标记为 Incompatible,尽管同一 API 端点在 Dify 外部能正常处理 OpenAI 兼容工具调用。优先排查模型名称是否匹配了前端硬编码的屏蔽列表(如 qwen3.5 开头)。
核心英文报错:The same endpoint successfully handles OpenAI-compatible tool calls outside Dify. A minimal request and response are included below.
适用环境:Dify Self Hosted (Docker) v1.16.0(从 v1.14.2 升级);本地部署 Qwen3.5-35B-64K 通过 vLLM 提供 OpenAI 兼容端点。
最快修复方案:将模型重命名为不匹配屏蔽模式的名字(例如 my-qwen-35b-64k),并在 Dify 中重新配置模型。
注意事项:重命名后需确保 vLLM 服务端已开启 --enable-auto-tool-choice 和 --tool-call-parser(如 hermes)以实际支持工具调用;若仍出现 Builder Apply 不生效问题,可能是模型被屏蔽导致的连锁现象,优先解决兼容性标签。
问题场景
用户在 Dify v1.16.0 的 Agent V2 页面选择通过 vLLM 提供的本地模型 qwen3.5-35b-64k 时,模型被标记为 Incompatible,无法构建或预览 Agent。但该模型在 Dify 外部的 OpenAI 兼容调用中能正常完成工具调用。
报错原文
The same endpoint successfully handles OpenAI-compatible tool calls outside Dify. A minimal request and response are included below.
UI: 模型选择器显示 "Incompatible" 徽章,无具体原因提示。
原因分析
存在问题的是 Dify 前端 web/features/agent-v2/agent-detail/configure/model-compatibility.ts 中的硬编码正则过滤器。该文件维护了一个模型名称黑名单,其中第 42 行包含 /^qwen3\.5/i,任何显示名称以 qwen3.5 开头的模型都会被标记为 Incompatible,而不检查模型实际是否支持工具调用。该检查纯属 UI 层面,并非真实能力探测。
Agent V2 仅支持原生 OpenAI 风格的函数调用(tools 参数 + tool_calls 响应),没有 CoT/ReAct 回退机制。Dify 团队基于已知不兼容的模型族收录了该列表,但对自托管 / vLLM 模型过于宽泛。
环境排查
- 确认 Dify 版本是否为 v1.16.0(尤其从 v1.14.x 升级后)。
- 检查模型在 Dify 模型供应商配置中的显示名称(
modelItem.label.en_US)是否以qwen3.5开头。 - 检查 vLLM 启动参数:是否包含
--enable-auto-tool-choice和--tool-call-parser(例如hermes或llama3_json)。
解决步骤
<ol
参考来源
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。


