[BUG]: Gemini agent chat fails with “The agent model failed to respond: Connection error.”

该报错通常发生在 AnythingLLM 桌面版将 Gemini 设为工作区 Agent 模型后,首次发送 @agent 聊天或触发自动工具调用时。优先检查 AnythingLLM 桌面版版本是否为 1.16.0-r2 或更高,并确认更新后问题是否消失。

快速结论:该报错通常发生在 AnythingLLM 桌面版将 Gemini 设为工作区 Agent 模型后,首次发送 @agent 聊天或触发自动工具调用时。优先检查 AnythingLLM 桌面版版本是否为 1.16.0-r2 或更高,并确认更新后问题是否消失。

适用环境:AnythingLLM 桌面版(Windows 操作系统),LLM 与 Embedder 均为 Google Gemini(已复现模型:gemini-3.1-pro、gemini-3.6-flash、gemini-3.7-flash),向量数据库为 lancedb。

最快修复方案:升级 AnythingLLM 桌面版至 1.16.0-r2 版本(该版本为 Issue 中确认的修复版本)。如果无法升级,可优先尝试在 AnythingLLM 设置中切换 Agent 模型为非 Gemini 模型作为临时规避方案。

注意事项:该修复方案由开发团队在 Issue 中确认并计划发布,属已验证修复;临时切换模型方案仅为规避手段,未在 Issue 中作为正式修复验证。

问题场景

用户在 AnythingLLM 桌面版中使用 Google Gemini 作为工作区 Agent 提供方(已复现 gemini-3.1-pro、gemini-3.6-flash、gemini-3.7-flash),发送 @agent 聊天或触发自动工具执行时,首次对话立即失败并抛出连接错误。

报错原文

The agent model failed to respond: Connection error.

原因分析

根本原因是 AnythingLLM 依赖链中一个未固定版本的子依赖 undici 被解析到了 v7(应固定为 v6),导致 OpenAI SDK 客户端在应用 content-length 时抛出异常,最终表现为 Agent 模型连接失败。该问题属于依赖版本管理缺陷,而非 Gemini API 或网络配置问题。

环境排查

  • 确认 AnythingLLM 桌面版是否为 1.16.0-r2 或更高版本;
  • 检查 Agent 模型设置是否为 Gemini 系列(gemini-3.1-pro、gemini-3.6-flash、gemini-3.7-flash 均可复现);
  • 确认 Embedder 与 LLM 均为 Gemini 配置;
  • 确认向量数据库为 lancedb(Issue 日志中的复现环境)。

解决步骤

  1. 打开 AnythingLLM 桌面版,进入设置检查当前版本号;
  2. 如果版本低于 1.16.0-r2,请将 AnythingLLM 升级至该版本或更高版本(该版本在 Issue 中确认包含修复);
  3. 升级完成后,重启 AnythingLLM 桌面应用;
  4. 重新将 Gemini 设为 Agent 模型,发送一条 @agent 测试消息验证;
  5. 如果暂时无法升级,可先切换 Agent 模型至非 Gemini 模型(如 OpenAI)临时使用,等待版本更新。

验证方法

升级至 1.16.0-r2 后,使用 Gemini 作为 Agent 模型发送 @agent 消息,不再出现 The agent model failed to respond: Connection error. 报错,且 Agent 能正常调用工具并返回结果,即确认问题已解决。

参考来源

Mintplex-Labs/anything-llm #6153

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 19632

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注