标签： LLM

该问题发生在使用 RAGFlow 的 GraphRAG 构建知识图谱时，特别是 light 模式（默认），也影响 general 模式。用户使用 qwen2.5:7b-instruct 模型通过 Ollama 进行关系抽取，并使用 Elasticsearch 8.11.3 作为文档存储。当文档集中包

用户在 Linux 系统上运行 llama.cpp（ llama-cli 或 llama-server ），使用 -hf ggml-org/gemma-3-1b-it-GGUF:Q4_K_M 等命令下载或加载模型时触发。问题重现于 Vulkan、ROCm 和 CPU 后端，涉及 AMD Radeon

用户在使用 llama-bench 工具测试 Qwen3-8B-Q4_K_M.gguf 模型时触发问题，硬件为 MINISFORUM MS-R1（CIX CP8180 SoC），配备 Mali-G720-Immortalis GPU 和共享内存池（UMA）。即使用 -ngl 0 参数禁止层卸载到 G

该问题出现在 vLLM CI 的 fork 模式 EngineCore 测试中，具体涉及：

用户使用 Docker 安装的 Open WebUI 10.0.2 版本，运行在 Ubuntu 上。最初连接了 Ollama 提供商的 4 个模型并设置了某些用户的模型访问权限，之后切换到 llama.cpp 后端的模型，并删除了 Ollama 提供商。虽然 Ollama 模型已从模型列表中消失，但

用户在 llama.cpp 最新 master 分支（commit 418dea39cea85d3496c8b04a118c3b17f3940ad8 ）下，使用 4 块 CUDA 设备 （通过 PCI-E 3.0 x1 连接）加载 Qwen3.5 27B / Qwen3.5-397B-A17B 等