标签： LLM

用户在 RAGFlow v0.26.0（对应 workspace commit ID 6865039a2 ）中，通过 Ollama 提供商添加从 Ollama 拉取的 qllama/bge-reranker-v2-m3:latest 模型。RAGFlow 运行在 CPU-only 模式下，但问题同样

用户使用 llama-server.exe 启动 llama.cpp 服务器，在加载模型后关闭控制台窗口或按 Ctrl+C 退出时，系统立即蓝屏并重启。问题在 Windows 系统上发生，涉及 NVIDIA GPU 和可能的 Vulkan 后端。

用户使用 llama-server （版本 8182、8233、8149，基于 ggml-org/llama.cpp）加载 Qwen 3.5 27B GGUF 模型（如 Qwen3.5-27B.Q8_0.gguf ），启用 flash attention 和长上下文（如 131072 tokens）

用户在运行 vLLM (版本 0.21.0) 的分离式推理 (disaggregated inference) 时，使用 NixlConnector 作为 KV 连接器，并配置了非同等的 TP 大小 (例如 Prefill TP=8, Decode TP=16，或 TP=8 对 TP=16)。问题触

用户在 RAGFlow 后台通过“Embed into webpage”功能生成了嵌入式聊天页面的 HTML 代码。页面能正常加载并与 Agent 对话，但点击“Thinking”按钮时触发认证警告，导致该功能不可用。该问题在 v0.24.0 版本之后出现。