issue: MHKetbi/Mistral-Small-24B-Instruct-2501-writer fails with “does not support tools” even when no tools are used

用户在 Ubuntu 24.04.4 LTS 环境下,通过 pip 安装的 Open WebUI v0.10.1 和 Ollama 0.30.10(后升级至 0.30.11 问题依旧)中,使用模型 MHKetbi/Mistral-Small-24B-Instruct-2501-writer 时触发问

issue: MHKetbi/Mistral-Small-24B-Instruct-2501-writer fails with "does not support tools" even when no tools are used

issue: MHKetbi/Mistral-Small-24B-Instruct-2501-writer fails with “does not support tools” even when no tools are used

快速结论:该报错通常出现在 Open WebUI v0.10.1 将工具调用模式默认切换为“Native”后。即使未手动启用任何工具,使用不支持原生工具调用的模型(如 MHKetbi/Mistral-Small-24B-Instruct-2501-writer)发送请求时,仍会立即收到“does not support tools”错误。优先排查当前对话或全局默认模型参数中的工具调用模式设置,将其手动切换为“Legacy”模式即可解决。

问题场景

用户在 Ubuntu 24.04.4 LTS 环境下,通过 pip 安装的 Open WebUI v0.10.1 和 Ollama 0.30.10(后升级至 0.30.11 问题依旧)中,使用模型 MHKetbi/Mistral-Small-24B-Instruct-2501-writer 时触发问题。用户明确表示未选择任何工具,但模型在生成响应前立即失败并报错。该模型不支持原生工具调用。

报错原文

does not support tools

原因分析

根据 Issue 评论中的 changelog 引用,Open WebUI 在 v0.10.1 版本中将工具调用模式默认切换为“Native”。Native 模式依赖模型内置的原生工具支持,而 MHKetbi/Mistral-Small-24B-Instruct-2501-writer 模型不具备此能力。即使 UI 上没有显示任何已选工具,Open WebUI 仍会以 Native 模式尝试与模型进行工具相关的交互,导致模型立即拒绝并报错。旧的行为已被重命名为“Legacy”模式,需要手动选择。

环境排查

  • Open WebUI 版本:v0.10.1(用户未尝试更新,但确认使用最新版本)
  • Ollama 版本:0.30.10 及 0.30.11
  • 操作系统:Ubuntu 24.04.4 LTS
  • 模型名称:MHKetbi/Mistral-Small-24B-Instruct-2501-writer
  • 工具调用模式:需要确认当前对话、模型级别或全局默认参数中的工具调用模式是“Native”还是“Legacy”

解决步骤

  1. 阅读官方文档:访问 Open WebUI 关于工具调用模式的文档:Tool Calling Modes: Default vs Native,了解 Native 和 Legacy 模式的区别。
  2. 切换工具调用模式:在 Open WebUI 中,按照以下三种方式之一将模式切换为“Legacy”:
    1. 按单次对话:在当前对话的侧边栏或设置中找到“工具调用模式”选项,选择“Legacy”。
    2. 按模型:在模型管理页面,为 MHKetbi/Mistral-Small-24B-Instruct-2501-writer 单独设置“Legacy”模式。
    3. 全局默认:在用户的默认模型参数中,将工具调用模式设置为“Legacy”,以影响所有新对话。
  3. 重新发送请求:切换模式后,再次尝试与模型进行对话,确认不再出现报错。

验证方法

切换到 Legacy 模式后,使用相同的模型(不选择任何工具)发送一条普通消息。如果模型能正常生成响应,而不再立即返回“does not support tools”错误,则问题已解决。

参考来源

open-webui/open-webui #26397

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 10504

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注