标签： LLM

用户在使用 ROCm 7.0 环境（HIP 7.0.51831，PyTorch 2.9.1）运行 vLLM 时，加载 meta-llama/Llama-3.2-1B-Instruct 模型，启用了 ROCM_ATTN 注意力后端，导致进程因 Seg Fault 崩溃。运行环境为 AMD EPYC 9

该问题发生在使用 RAGFlow 的 GraphRAG 构建知识图谱时，特别是 light 模式（默认），也影响 general 模式。用户使用 qwen2.5:7b-instruct 模型通过 Ollama 进行关系抽取，并使用 Elasticsearch 8.11.3 作为文档存储。当文档集中包

用户在 Linux 系统上运行 llama.cpp（ llama-cli 或 llama-server ），使用 -hf ggml-org/gemma-3-1b-it-GGUF:Q4_K_M 等命令下载或加载模型时触发。问题重现于 Vulkan、ROCm 和 CPU 后端，涉及 AMD Radeon

用户在使用 llama-bench 工具测试 Qwen3-8B-Q4_K_M.gguf 模型时触发问题，硬件为 MINISFORUM MS-R1（CIX CP8180 SoC），配备 Mali-G720-Immortalis GPU 和共享内存池（UMA）。即使用 -ngl 0 参数禁止层卸载到 G

该问题出现在 vLLM CI 的 fork 模式 EngineCore 测试中，具体涉及：

用户使用 Docker 安装的 Open WebUI 10.0.2 版本，运行在 Ubuntu 上。最初连接了 Ollama 提供商的 4 个模型并设置了某些用户的模型访问权限，之后切换到 llama.cpp 后端的模型，并删除了 Ollama 提供商。虽然 Ollama 模型已从模型列表中消失，但