[Question]: Fail to access model(OpenAI-API-Compatible/Qwen/Qwen3-Reranker-8B).Expecting value: line 1 column 1 (char 0)

问题场景

用户使用 RAGFlow，通过 “oneAPI” 开源项目把 SiliconFlow 的重排模型以 OpenAI 协议（OpenAI-API-Compatible）接入，模型为 Qwen/Qwen3-Reranker-8B。同一个重排模型在其他 RAG 项目中工作正常，但在 RAGFlow 中添加该模型时立即失败并抛出解析错误。

报错原文

Fail to access model(OpenAI-API-Compatible/Qwen/Qwen3-Reranker-8B).Expecting value: line 1 column 1 (char 0)

原因分析

Expecting value: line 1 column 1 (char 0) 是 JSON 解析器在输入的第一个字符处未能找到有效值的典型提示，说明 RAGFlow 拿到的是空响应体或非 JSON 内容（例如纯文本错误页）。可能原因包括：

• Qwen3 系列模型（含 Qwen3-Reranker-8B）仅支持流式模式，而请求未携带 "stream": true，导致服务端返回空响应或非预期格式。
• 模型名缺少 Qwen/ 前缀，可能与后端注册的模型标识不匹配，触发 “Model does not exist” 类错误响应而非正常 JSON。
• OpenAI 兼容模型未在 conf/llm_factories.json 的 OpenAI-compatible 段落中正确登记，仅改 YAML 配置不足以让 RAGFlow 识别该模型。

环境排查

• 确认 RAGFlow 版本；Issue 未给出具体版本，若长期未更新，可对比 nightly 镜像是否已修复同类问题。
• 确认是否经过 oneAPI 或其他 OpenAI 兼容网关转发，以及该网关是否支持并透传 stream 参数。
• 确认模型名称是否为完整的 Qwen/Qwen3-Reranker-8B（含 Qwen/ 前缀）。
• 确认 conf/llm_factories.json 的 OpenAI-compatible 部分是否已列出该模型。
• Issue 未提供 Python、CUDA、PyTorch、显卡信息，无需据此调整排查顺序。

解决步骤

1. 在调用该重排模型的请求载荷或 oneAPI 网关的模型配置中，为该模型补上 "stream": true，使其以流式方式请求。
2. 核对模型标识，确保填写的是带前缀的 Qwen/Qwen3-Reranker-8B，而不是省略前缀的名称。
3. 检查 conf/llm_factories.json，确认该 OpenAI 兼容模型已在对应段落中列出，并按要求重启 RAGFlow 使配置生效。
4. 若以上均无效，可优先尝试升级到 RAGFlow nightly docker 镜像，观察同类接入问题是否消失。

验证方法

在 RAGFlow 中重新添加或访问该 Qwen/Qwen3-Reranker-8B 模型，确认不再出现 Expecting value: line 1 column 1 (char 0)，且模型连接检查返回正常结果；随后在知识库检索流程中实际调用重排，确认返回的是有效排序结果而非空响应。

参考来源

infiniflow/ragflow #9615

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。