![[Bug]: The latest version of gpustack configuration reports error 102](https://www.chat-gpts.plus/wp-content/uploads/2026/07/17018-adf2b28a.jpg)
[Bug]: The latest version of gpustack configuration reports error 102
快速结论:该报错通常发生在 RAGFlow 连接 GPUStack 并验证模型时,由于默认验证超时时间过短(仅 10 秒),导致接口返回 102 错误。优先检查 GPUStack 模型加载时间是否超过 10 秒,以及容器内 base URL 是否可达。
问题场景
用户在 RAGFlow v0.26.4 中配置 GPUStack 2.1.0 作为模型后端。添加模型后,RAGFlow 界面返回 102 错误,提示 API Key 无效。但用户确认 API Key 正确,且在 GPUStack 日志中未看到来自 RAGFlow 的接口调用记录。
报错原文
interface returned 102
原因分析
可能原因是 RAGFlow 在 v0.26.x 中添加模型时,会发送测试 completion 请求以验证模型可访问性,该校验的默认超时时间仅为 10 秒。当 GPUStack 加载较大模型或硬件响应较慢时,无法在 10 秒内返回结果,RAGFlow 侧请求超时后即返回 102 错误,即使 API Key 本身是有效的。日志中未看到调用记录也佐证了请求在 RAGFlow 侧已超时终止。
环境排查
- RAGFlow 版本:v0.26.4(对应 Docker 镜像 tag v0.26.4)
- GPUStack 版本:2.1.0
- 确认 RAGFlow 容器内访问 GPUStack 的 base URL 是否正确(若 GPUStack 运行在宿主机,容器内 127.0.0.1 指向容器自身,而非宿主机)
- 确认模型加载时间是否较长(例如大模型首次加载)
解决步骤
- 在
docker/.env文件中添加环境变量:LLM_TIMEOUT_SECONDS=60,将模型验证超时时间延长至 60 秒。 - 检查 GPUStack 的 base URL 配置:如果 GPUStack 运行在宿主机,应使用
http://host.docker.internal:<port>而非http://127.0.0.1:<port>,因为容器内 127.0.0.1 指向容器本身。 - 重启 RAGFlow 服务使配置生效:
docker compose down && docker compose up -d。
注:上述解决方案来自 Issue 评论分析,虽有明确的技术依据(代码中超时设置),但并非官方确认的 Bug 修复补丁,可优先尝试。
验证方法
重新在 RAGFlow 界面中添加或测试 GPUStack 模型,观察是否仍返回 102 错误。同时检查 GPUStack 日志,确认能收到来自 RAGFlow 的请求。



