快速结论:该报错通常发生在 AnythingLLM 桌面版将 Gemini 设为工作区 Agent 模型后,首次发送 @agent 聊天或触发自动工具调用时。优先检查 AnythingLLM 桌面版版本是否为 1.16.0-r2 或更高,并确认更新后问题是否消失。
适用环境:AnythingLLM 桌面版(Windows 操作系统),LLM 与 Embedder 均为 Google Gemini(已复现模型:gemini-3.1-pro、gemini-3.6-flash、gemini-3.7-flash),向量数据库为 lancedb。
最快修复方案:升级 AnythingLLM 桌面版至 1.16.0-r2 版本(该版本为 Issue 中确认的修复版本)。如果无法升级,可优先尝试在 AnythingLLM 设置中切换 Agent 模型为非 Gemini 模型作为临时规避方案。
注意事项:该修复方案由开发团队在 Issue 中确认并计划发布,属已验证修复;临时切换模型方案仅为规避手段,未在 Issue 中作为正式修复验证。
问题场景
用户在 AnythingLLM 桌面版中使用 Google Gemini 作为工作区 Agent 提供方(已复现 gemini-3.1-pro、gemini-3.6-flash、gemini-3.7-flash),发送 @agent 聊天或触发自动工具执行时,首次对话立即失败并抛出连接错误。
报错原文
The agent model failed to respond: Connection error.
原因分析
根本原因是 AnythingLLM 依赖链中一个未固定版本的子依赖 undici 被解析到了 v7(应固定为 v6),导致 OpenAI SDK 客户端在应用 content-length 时抛出异常,最终表现为 Agent 模型连接失败。该问题属于依赖版本管理缺陷,而非 Gemini API 或网络配置问题。
环境排查
- 确认 AnythingLLM 桌面版是否为
1.16.0-r2或更高版本; - 检查 Agent 模型设置是否为 Gemini 系列(gemini-3.1-pro、gemini-3.6-flash、gemini-3.7-flash 均可复现);
- 确认 Embedder 与 LLM 均为 Gemini 配置;
- 确认向量数据库为 lancedb(Issue 日志中的复现环境)。
解决步骤
- 打开 AnythingLLM 桌面版,进入设置检查当前版本号;
- 如果版本低于
1.16.0-r2,请将 AnythingLLM 升级至该版本或更高版本(该版本在 Issue 中确认包含修复); - 升级完成后,重启 AnythingLLM 桌面应用;
- 重新将 Gemini 设为 Agent 模型,发送一条
@agent测试消息验证; - 如果暂时无法升级,可先切换 Agent 模型至非 Gemini 模型(如 OpenAI)临时使用,等待版本更新。
验证方法
升级至 1.16.0-r2 后,使用 Gemini 作为 Agent 模型发送 @agent 消息,不再出现 The agent model failed to respond: Connection error. 报错,且 Agent 能正常调用工具并返回结果,即确认问题已解决。
参考来源
Mintplex-Labs/anything-llm #6153
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。

![[Question]: How to deal with the situation that the user_id returned in the Conversation table in the database is null?](https://www.chat-gpts.plus/wp-content/uploads/2026/08/7940-bcfd3c79-768x403.jpg)
![[Question]: dependency failed to start: container ragflow-mysql is unhealthy](https://www.chat-gpts.plus/wp-content/uploads/2026/08/7501-3cad0829-768x403.jpg)