[Question]:Add chat’s ollama model hint 102

该报错通常发生在 RAGFlow 添加 Ollama Chat 模型时,返回 “No models found for provider ‘Ollama’” 且错误码为 102。优先排查添加模型时是否勾选了模型列表,而不是直接检查 Ollama 连接。

快速结论:该报错通常发生在 RAGFlow 添加 Ollama Chat 模型时,返回 “No models found for provider ‘Ollama’” 且错误码为 102。优先排查添加模型时是否勾选了模型列表,而不是直接检查 Ollama 连接。

适用环境:RAGFlow(最新源码构建版)、Ollama(官方 Docker 容器)、macOS 操作系统。涉及的模型包括 qwen2:0.5b、llama3.2:latest、bge-m3:latest。

最快修复方案:暂无确认的一步修复方案。可优先尝试参考 Issue #16582 中提供的解决方案。

注意事项:该问题并非 Ollama 连接失败,而是 RAGFlow 后端的模型校验逻辑在 model_info 为空数组时直接返回错误。不同版本的 RAGFlow 可能需要不同的处理方式。

问题场景

用户在 RAGFlow 的 Chat 模型配置页面添加 Ollama 提供的模型(如 qwen2:0.5b、llama3.2)时,点击验证按钮后返回错误码 102。用户已经通过 curl http://host.docker.internal:11434/api/tags 确认 Ollama 服务在容器内可访问,但添加 Chat 模型依然失败。嵌入式模型(如 bge-m3)可以正常添加,只有 Chat 模型报错。

报错原文

[Question]:Add chat's ollama model hint 102
Fail to access model(qwen2:0.5b).**ERROR**:invalid format: expected "json" or a JSON schema
{"code": 102, "message": "No models found for provider 'Ollama'"}

原因分析

根据 Issue 中的详细排查,该问题的根因并非 Ollama 连接失败,而是 RAGFlow 后端的 verify_provider_api_key 校验逻辑存在缺陷。当请求中的 model_info 字段为空数组 [] 时,后端代码会读取 Ollama 的静态模型配置。而 Ollama 在 RAGFlow 的 llm_factories.json 中的静态 LLM 配置列表恰好为空数组,导致后端直接返回 “No models found for provider ‘Ollama’”,根本没有尝试连接 Ollama 服务。

可能原因:配置 Chat 模型时未正确选择或传递需要验证的模型列表,导致 model_info 为空数组。

环境排查

  • 确认 RAGFlow 版本是否为最新源码构建版,不同版本的校验逻辑可能不同。
  • 确认 Ollama 是否运行在 Docker 容器中,以及是否使用 host.docker.internal 地址访问宿主机服务。
  • 确认在添加模型时,页面上的模型列表是否正确显示并已勾选需要添加的模型。
  • 确认 RAGFlow 中的 conf/llm_factories.json 中 Ollama 的静态模型配置是否为空。

解决步骤

  1. 参考 Issue #16582 中提到的解决方案,该 Issue 可能包含针对此问题的修复方法或绕行方案。
  2. 在添加 Chat 模型时,确保在页面中正确选择 Ollama 提供的模型名称(如 qwen2:0.5b),而不是留空或未选择模型列表。
  3. 检查 RAGFlow 的 provider_api_service.py 文件中第 656 行附近的 verify_api_key 函数,确认 model_info 参数是否确实为空数组时会导致提前返回错误。
  4. 如果修改源码可行,可以尝试调整 verify_api_key 的逻辑,在 model_info 为空时跳过静态配置检查,或自动填充默认模型列表。
  5. 确认 RAGFlow 和 Ollama 的版本兼容性,尝试升级 RAGFlow 到最新发布版本,看是否已修复此问题。

验证方法

按照上述步骤操作后,重新在 RAGFlow 页面点击验证按钮,确认不再返回错误码 102,并且能够正常显示 “Connection successful” 或类似提示。同时检查 Ollama 服务的日志,确认 RAGFlow 是否实际发起了对 Ollama 的连接请求。

参考来源

infiniflow/ragflow #4074

infiniflow/ragflow #16582(关联解决方案)

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 18287

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注