issue: this ai slop project is so broken

用户在运行 Open WebUI(Docker 安装,最新版)时,发现新创建的聊天有时会误用前一个聊天窗口的上下文,导致模型“思维混乱”。此外,用户还抱怨无法在模型请求中独立设置 chat_template_kwargs 中的 enable_thinking 为 true 但不设置 reasonin

issue: this ai slop project is so broken

issue: this ai slop project is so broken

快速结论:该报错发生在 Open WebUI 的 Docker 部署中,用户遇到两个主要问题:1)新聊天有时继承上一个聊天窗口的上下文,即“上下文串台”;2)无法自由控制模型推理思维(thinking)参数,特别是当 reasoning effort 未设置时无法启用 thinking。优先排查模型的高级参数设置是否有 thinking 开关,以及是否使用了需要自定义参数的非标准 API(如 OpenRouter)。

问题场景

用户在运行 Open WebUI(Docker 安装,最新版)时,发现新创建的聊天有时会误用前一个聊天窗口的上下文,导致模型“思维混乱”。此外,用户还抱怨无法在模型请求中独立设置 chat_template_kwargs 中的 enable_thinking 为 true 但不设置 reasoning effort,认为系统隐藏了相关实现。问题出现在 Firefox 最新版浏览器中,但用户表示难以稳定复现。

报错原文

"currently latest opened chat's context is (sometimes) set as context for new chat (str8 atism)"  
"u arent even providing us with ability to pass enable thinking with reasoning effort set to custom value hiding all that behind implementation"  
"'chat_template_kwargs':{'enable_thinking':true} by having custom passed to model request args"

(注:Issue 中未提供标准报错日志或错误堆栈,以上为用户描述性文字。)

原因分析

上下文串台的原因:此问题可能与 Open WebUI 的聊天状态管理 Bug 有关。用户指出的“浮动的 bug”难以复现,可能原因是:

  • Open WebUI 在会话切换时未能正确清理或重置聊天上下文,尤其是在多标签页操作或快速切换聊天时。
  • 缓存机制(包括浏览器缓存或 LiteLLM 等网关的缓存)导致旧上下文被错误复用。
  • 社区中类似的 Issue #26631 和 #24522 均报告了上下文未被正确发送给模型,或者旧版聊天的上下文在新版中丢失/错配。

Thinking 参数无法设置的原因:用户希望发送 chat_template_kwargs.enable_thinking 为 true,但同时不设置 reasoning effort。Open WebUI 可能默认要求 reasoning effort 与 thinking 开关一起传递,或者在 UI 高级参数中未暴露该独立选项。对于非 OpenAI 标准端点(如 OpenRouter),需要额外自定义参数才能生效。

环境排查

  • 确认 Open WebUI 版本是否为最新(Docker 部署,latest tag)。
  • 确认 Ollama 版本(如适用)及是否与 Open WebUI 兼容。
  • 检查是否使用了代理/网关(如 LiteLLM)及是否启用了缓存。
  • 确认浏览器版本(Firefox 最新版)及是否开启插件/脚本导致缓存干扰。
  • 对于 thinking 问题,确认模型提供商是否需要自定义参数(例如 OpenRouter 需要单独配置)。
  • 检查 高级参数 面板中是否有 thinking 开关及 reasoning effort 下拉菜单。

解决步骤

  1. 针对上下文串台:
    • 尝试在浏览器中清除 Open WebUI 站点缓存(Cookie、Local Storage),然后重新登录。
    • 在 Docker 中重启 Open WebUI 容器:docker restart <container_name>(无需指定容器名,仅做指导)。
    • 检查是否使用了 LiteLLM 等缓存层,如有则暂时禁用其缓存功能进行测试。
    • 关注 Issue #26631 和 #24522 的进展,查看是否有针对上下文管理的修复补丁。
  2. 针对 thinking 参数问题:
    • 在模型的高级参数中启用 Thinking 开关(如可用)。
    • 如果需要同时设置 enable_thinking 为 true 但不设置 reasoning effort,请尝试在模型的自定义参数(Custom Parameters)中添加字段:
      {
        "chat_template_kwargs": {
          "enable_thinking": true
        }
      }
    • 如果模型提供商(如 OpenRouter)要求特殊配置,建议查阅其文档并在 Open WebUI 自定义参数中按需添加,例如 thinking_effort 等。
    • 参考相关 Issue #23339 和 #25237,这些讨论了 thinking 标签注入和 API 参数透传问题。
  3. 可优先尝试:确认高级参数中 Thinking 开关是否处于打开状态;如无法激活,请优先检查自定义参数是否正确传入。

验证方法

1)新建一个聊天窗口,输入简单问题,观察模型是否使用前一个对话的上下文(例如历史对话中的内容出现在当前回复中)。如果不再出现,则上下文问题解决。
2)对于 thinking 参数,发送测试请求并检查模型返回内容是否正确包含思考标签(<think>...</think>)或模型正确输出 reasoning 结果;在浏览器开发者工具的网络面板中确认请求体中是否包含了自定义的 chat_template_kwargs

参考来源

open-webui/open-webui #26961
相关 Issue:
#23339 feat: Add model-level toggle to disable reinjecting reasoning/thinking
#26072 Reasoning dynamically deactivated: Answer rendered in thinking area
#25237 anthropic api endpoint drop thinking effort or budget silently
#26631 LLM not context aware in open-webui
#24522 Context lost when continuing older conversations

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 12333

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注