The same endpoint successfully handles OpenAI-compatible tool calls outside Dify. A minimal request and response are included below.

模型在 Agent V2 页面被标记为 Incompatible ,尽管同一 API 端点在 Dify 外部能正常处理 OpenAI 兼容工具调用。优先排查模型名称是否匹配了前端硬编码的屏蔽列表(如 qwen3.5 开头)。 核心英文报错: The same endpoint successfull

快速结论:模型在 Agent V2 页面被标记为 Incompatible,尽管同一 API 端点在 Dify 外部能正常处理 OpenAI 兼容工具调用。优先排查模型名称是否匹配了前端硬编码的屏蔽列表(如 qwen3.5 开头)。
核心英文报错:The same endpoint successfully handles OpenAI-compatible tool calls outside Dify. A minimal request and response are included below.

适用环境:Dify Self Hosted (Docker) v1.16.0(从 v1.14.2 升级);本地部署 Qwen3.5-35B-64K 通过 vLLM 提供 OpenAI 兼容端点。

最快修复方案:将模型重命名为不匹配屏蔽模式的名字(例如 my-qwen-35b-64k),并在 Dify 中重新配置模型。

注意事项:重命名后需确保 vLLM 服务端已开启 --enable-auto-tool-choice--tool-call-parser(如 hermes)以实际支持工具调用;若仍出现 Builder Apply 不生效问题,可能是模型被屏蔽导致的连锁现象,优先解决兼容性标签。

问题场景

用户在 Dify v1.16.0 的 Agent V2 页面选择通过 vLLM 提供的本地模型 qwen3.5-35b-64k 时,模型被标记为 Incompatible,无法构建或预览 Agent。但该模型在 Dify 外部的 OpenAI 兼容调用中能正常完成工具调用。

报错原文

The same endpoint successfully handles OpenAI-compatible tool calls outside Dify. A minimal request and response are included below.

UI: 模型选择器显示 "Incompatible" 徽章,无具体原因提示。

原因分析

存在问题的是 Dify 前端 web/features/agent-v2/agent-detail/configure/model-compatibility.ts 中的硬编码正则过滤器。该文件维护了一个模型名称黑名单,其中第 42 行包含 /^qwen3\.5/i,任何显示名称以 qwen3.5 开头的模型都会被标记为 Incompatible而不检查模型实际是否支持工具调用。该检查纯属 UI 层面,并非真实能力探测。

Agent V2 仅支持原生 OpenAI 风格的函数调用(tools 参数 + tool_calls 响应),没有 CoT/ReAct 回退机制。Dify 团队基于已知不兼容的模型族收录了该列表,但对自托管 / vLLM 模型过于宽泛。

环境排查

  • 确认 Dify 版本是否为 v1.16.0(尤其从 v1.14.x 升级后)。
  • 检查模型在 Dify 模型供应商配置中的显示名称(modelItem.label.en_US)是否以 qwen3.5 开头。
  • 检查 vLLM 启动参数:是否包含 --enable-auto-tool-choice--tool-call-parser(例如 hermesllama3_json)。

解决步骤

<ol

参考来源

langgenius/dify #39623

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 15463

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注