标签： LLM

用户在 RAGFlow 中设置本地知识库，并通过 Ollama 集成本地模型（如 qwa-32b q4 ）。直接使用 ollama run qwq:latest 或 CherryStudio 时没有此问题，说明问题位于 RAGFlow 的内部处理环节。

用户在 Linux 上使用 podman 或 Docker 运行 llama.cpp 的 server-vulkan 镜像（版本 9501），启动容器后通过浏览器访问 http://localhost:10000/ 时，Web UI 不可用，仅返回 JSON 错误。该问题也影响 full-cuda

用户在 Linux 系统上，通过 stable-diffusion.cpp（共用 ggml Vulkan 后端）运行 Flux 2 Klein 4B 模型，分辨率为 1024×1024 且启用了 VAE tiling 时触发。 在 llama.cpp 中使用大型图像输入（mmproj）或超长上下文时

该问题由 vLLM 项目 #46027 报出，用户在使用 KV Offload 功能时（未指定模型、环境或具体运行配置），在进行请求驱动的缓存卸载/加载调度时触发。该 Bug 并非运行时崩溃，而是代码语义错误：两个 offloading 层级的 `on_request_finished` 提供了不一

用户通过OpenAI-API-Compatible接口将本地部署的Embedding模型接入RAGFlow，但文档解析（Parsing）流程持续卡住，Embedding服务未收到任何请求。后台日志中显示模型文件路径错误。

用户在使用 RAGFlow v0.17.0-29（commit ID: g555c7067）创建知识库时，选择了“Table”模式来解析 Excel 电子表格文件。随后，用户配置了一个聊天机器人（Chatbot），使用 deepseek-r1 模型，并关联该知识库。用户在提问时发现，模型直接输出数据

用户在 Android 设备（Snapdragon，Hexagon HTP v73）上，使用 llama.cpp (version 9775, built with Clang 21.0.0 for Android aarch64) 的 llama-completion 工具加载 Qwen3-4B