[BUG]: Could not respond to message. The agent model failed to respond: 400 The `reasoning_content` in the thinking mode must be passed back

该报错通常出现在 AnythingLLM 桌面端使用 DeepSeek reasoner(思考模式)配合 Agent 模式执行任务时,尤其是 Agent 发起工具调用后进入下一轮请求时,服务端要求把上一轮 assistant 消息中的 reasoning_content 原样带回 API。优先排查客

快速结论:该报错通常出现在 AnythingLLM 桌面端使用 DeepSeek reasoner(思考模式)配合 Agent 模式执行任务时,尤其是 Agent 发起工具调用后进入下一轮请求时,服务端要求把上一轮 assistant 消息中的 reasoning_content 原样带回 API。优先排查客户端是否完整保留并回传了该字段。

适用环境:AnythingLLM 1.16.1 桌面端;LLM Provider/模型为 DeepSeek/deepseek-flash;Embedder 为 all-MiniLM-L6-v2(AnythingLLM 默认嵌入模型)。Issue 未提供操作系统、Python、CUDA、显卡等环境信息。

最快修复方案:暂无确认的一步修复方案。Issue 讨论中明确指出问题“Already patched – will be in next release: #6379”,即修复尚未随当前版本发布,需等待包含该补丁的下一个版本。

注意事项:不要通过手动补写或伪造 reasoning_content 绕过校验,该字段来自模型上一轮真实响应,需由 Agent 调用链自动保留与回传;在补丁版本发布前,可优先尝试在 Agent 场景中改用非思考模式模型,或避免触发需要多轮工具调用的任务。

问题场景

用户在 AnythingLLM 桌面端执行 PPT 生成任务,Agent 需要调用工具完成多轮对话。当 Agent 使用 DeepSeek/deepseek-flash 这类思考模式模型时,完成一次工具调用后,后续请求被 DeepSeek API 拒绝,导致 Agent 无法继续响应,前端报出 400 错误。

报错原文

Could not respond to message.
The agent model failed to respond: 400 The `reasoning_content` in the thinking mode must be passed back to the API.

原因分析

从 Issue 讨论看,最可能的原因是:在 Agent 的工具调用循环中,AnythingLLM 没有把上一条 assistant 消息中的 reasoning_content 保存下来,并在下一次请求时回传给 DeepSeek API。DeepSeek 在 thinking mode 下要求客户端把该字段原样带回,缺失时直接返回 400。该问题已被确认并修复,补丁预计在下一版本发布(关联 PR #6379)。

环境排查

  • 确认 AnythingLLM 版本是否为 1.16.1 桌面端,该版本被评论明确点名存在此问题。
  • 确认 Agent 使用的 LLM Provider/模型是否为 DeepSeek 的思考模式模型(Issue 中为 deepseek-flash)。
  • 确认任务是否触发了 Agent 的工具调用(如 PPT 生成等需要多轮工具调用的流程)。
  • 检查是否已升级到包含 #6379 修复的版本;若版本号仍为 1.16.1 或更早,问题可能依旧存在。
  • Issue 未提供操作系统、Python、CUDA、显卡等信息,这些项目暂无需作为排查重点。

解决步骤

  1. 记录当前 AnythingLLM 版本,确认是否为 1.16.1 桌面端。
  2. 等待并升级到包含 #6379 修复的下一个 AnythingLLM 版本,这是 Issue 中唯一明确提到的修复路径。
  3. 若暂时无法升级,可优先尝试在 Agent 模式下改用非思考模式模型,或避免使用需要多轮工具调用的 Agent 任务,以绕过 reasoning_content 回传校验。
  4. 升级后重新执行相同的 PPT 生成流程,观察是否还会出现 400 错误。

验证方法

升级到包含修复的版本后,重新在 Agent 模式下用 DeepSeek 思考模式模型执行一次会触发工具调用的任务(例如 PPT 生成)。若不再出现 400 The reasoning_content in the thinking mode must be passed back to the API.,且 Agent 能正常完成多轮工具调用并返回结果,即可确认问题已解决。

参考来源

Mintplex-Labs/anything-llm #6394

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 24091

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注