标签： LLM

这个报错通常出现在 RAGFlow 的 LLM 节点使用 GPT-OSS 并开启 JSON Structured Output 时，模型返回了空字符串或非法 JSON，导致输出解析失败。优先检查 LLM 实际返回内容是否为空白，并简化 JSON 输出结构。

在 RAGFlow 聊天界面中，如果 AI 回答尚未结束时点击暂停按钮，再发送下一条消息，AI 将不再回复。优先尝试刷新页面或重置当前会话，因为暂停操作可能导致前端状态未能正确清理。

这是 LlamaIndex 的 Qdrant 集成与 qdrant-client 1.17.0 之间的兼容性问题，优先尝试将 qdrant-client 降级到 1.17.0 以下版本（例如 1.16.2）即可解决。

该报错通常发生在 Blackwell 架构（SM120）GPU 上启动 vLLM 并启用 FlashInfer sampler 时，根因是系统 CUDA 环境与 Python 环境内 CUDA 工具链版本不一致（混用 12.8 与 13.x 组件），导致 FlashInfer JIT 编译时头文件与

该报错通常发生在使用 vLLM 0.25.0 及更早版本、且 PyTorch 为 cu129（CUDA 12.9）构建的环境下。优先排查 vLLM 版本是否过旧，并将 vLLM 升级到 0.25.1 或更高版本。