issue: Gemma 4 31:b malfunction, thinking

问题场景

用户在 Windows 11 上通过 bat 文件启动 Open WebUI（v0.13.3，Pip 安装），后端连接自己用 cmd 启动的 llama.cpp，选择 Gemma 4 31:b thinking 模型开始对话。发送消息 1–4 次后，模型会在回答前停止思考（不再输出 thinking 块直接作答）；有时两种行为来回切换。另有偶发的失控输出，例如无限重复某个 emoji、回答迟迟不结束，需要手动停止。另一位使用 Gemma 4 26b a4b 的用户报告同类现象，并指出与用户记忆（Memory）功能相关。

报错原文

issue: Gemma 4 31:b malfunction, thinking

After 1-4 times after I send messages to my gemma 4 31:b thinking model, it would stop thinking before it responds.

Sometimes, it creates weird response where it goes on and on, and ever stops and I have to stop it.
Sometimes it does this by repeating an emoji endlessly.

Not an open webui bug. Open WebUI doesn't handle model inference

Seems to be largely related to the user memory feature for me as the issue disappears when toggling/disabling the "Memory System Context" toggle

原因分析

可能原因（Issue 中未给出确认根因）：

• 推理内容归属不稳定：模型有时把正常输出放进 thinking 块、有时不放进（参见 #23538），导致界面表现为「有时思考、有时不思考」。
• 记忆内容注入干扰：有用户反馈关闭 “Memory System Context” 后问题消失，推测注入的记忆上下文破坏了 Gemma 模型进入思考模式的触发条件。
• think 参数不被后端支持：Open WebUI 可能向部分后端发送不支持的 think/reasoning 参数（参见 #33946），导致思考开关在不同请求间表现不一致。
• 推理块解析问题：后续 thinking 块未被正确解析、被当作普通文本渲染（参见 #33202），可能在表现上放大上述现象。
• 失控重复输出更可能来自模型或 llama.cpp 采样层面，Open WebUI 本身负责的是请求与展示，维护者明确表示模型推理不由 Open WebUI 处理。

环境排查

• 确认 Open WebUI 版本是否为 v0.13.3 或更新的 dev 分支，以排除旧版本问题。
• 确认 llama.cpp 版本与启动参数，特别是是否启用了 reasoning/thinking 相关模板或参数（Issue 未提供具体版本）。
• 确认该模型的 chat template 是否包含 thinking 段，以及对话中模板是否被正确应用。
• 检查 Settings 中的 Memory 功能是否启用，并可测试 “Memory System Context” 开启与关闭的差异。
• 确认后端 chat completions 端点是否接受 Open WebUI 发送的 think 参数（可对照 #33946）。
• 确认问题出现在多轮对话的第几轮，便于判断是否与上下文累积、记忆注入有关。

解决步骤

1. 记录复现条件：使用同一模型与 llama.cpp 后端，连续发送消息，记录第几轮开始不思考，以及是否伴随重复输出。
2. 关闭 “Memory System Context” 开关（可优先尝试），重新进行同样的多轮对话，观察思考行为是否稳定。
3. 对比开启/关闭记忆时的请求内容，检查注入的记忆上下文是否出现在提示中以干扰 reasoning 段。
4. 检查 llama.cpp 端对该模型是否支持 think/reasoning 参数；若不支持，避免在 Open WebUI 中对该模型启用思考相关参数。
5. 查看关联 PR（https://github.com/open-webui/open-webui/issues/34257 中给出的 PR 链接），在测试环境试用该改动，确认是否改善思考稳定性。
6. 如果以上均无效，整理一份可复现的最小对话记录（含模型名、后端版本、开关状态、第几轮出现），在 Issue 或新 Issue 中提供，便于维护者定位。

验证方法

在同一模型、同一后端、同一对话轮数下连续测试多次：若每次回答前都稳定出现 thinking 内容、不再出现跳过思考或 emoji 无限重复，即可认为规避生效；建议同时在 Memory 开关的两种状态下各测一轮并保留日志，以便确认是记忆注入问题还是后端推理问题。

参考来源

open-webui/open-webui #34218

关联讨论：#23538（Gemma 4 思考内容归属不稳定）、#25085（Gemma 4 思考/元数据泄漏及失控输出）、#33946（think 参数不被 chat completions 端点支持）、#33202（reasoning 块解析在首个块后停止）。以上均为 Issue 评论中的引用，未在本 Issue 中独立验证。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。