快速结论:当 Ollama 在 Linux 上无法识别 AMD Radeon RX 6750 XT,并出现 AMD Radeon RX 6750 XT Support 相关的 GPU 发现失败与 rocBLAS 初始化错误时,通常是因为 Ollama 对 AMD 显卡架构的兼容性识别与 ROCm/ROCR 运行库环境不匹配。优先排查 HSA_OVERRIDE_GFX_VERSION 的取值,以及 Ollama 能否检测到可用的 ROCm 库。
适用环境:Issue 中确认涉及 Ollama 0.3.0、Linux(Nobara 驱动管理器安装的 ROCm/amdgpu 驱动),AMD Radeon RX 6750 XT(日得日志显示 12.0 GiB 显存)。原日志中动态加载的库为 rocm_v60102。Issue 未提供 Python、PyTorch、CUDA 版本等证据,未予补写。
最快修复方案:暂无确认的一步修复方案。Issue 讨论中可优先尝试将 HSA_OVERRIDE_GFX_VERSION 设为 gfx1030(评论者称 gfx1031 不受 ROCm 与 Ollama 支持,而 gfx1030 受支持);若仍失败,可参考维护文档的 Linux 手动安装说明处理 ROCm 库识别问题。
注意事项:gfx1030 方案在 Issue 中并未被原报告者验证成功——其改用 gfx1030 后仍报 Could not initialize Tensile host: No devices found,且出现 “no compatible rocm library found” 的告警。另一条建议涉及 AMD_SERIALIZE_KERNEL=3 与 OLLAMA_LLM_LIBRARY 覆盖,评论者明确提示该库名需按实际 Ollama 版本调整,属推测性尝试,且重启是否生效也未被确认。
问题场景
用户在 Linux 上运行 ollama serve,希望让 Ollama 使用 AMD Radeon RX 6750 XT 进行推理。直接启动时 Ollama 找不到受支持的 GPU;使用 env HSA_OVERRIDE_GFX_VERSION=gfx1031 ollama serve 强制指定架构后,GPU 能被发现(compute=gfx1031),但启动 llama runner 时 rocBLAS 初始化失败,推理进程无法启动。
报错原文
WARN source=amd_linux.go:58 msg="ollama recommends running the https://www.amd.com/en/support/linux-drivers" error="amdgpu version file missing: /sys/module/amdgpu/version stat /sys/module/amdgpu/version: no such file or directory"
WARN source=amd_linux.go:380 msg="amdgpu detected, but no compatible rocm library found. Either install rocm v6, or follow manual install instructions at https://github.com/ollama/ollama/blob/main/docs/linux.md#manual-install"
WARN source=amd_linux.go:307 msg="unable to verify rocm library, will use cpu" error="no suitable rocm found, falling back to CPU"
rocBLAS error: Could not initialize Tensile host: No devices found
ERROR source=sched.go:443 msg="error loading llama server" error="llama runner process has terminated: error:Could not initialize Tensile host: No devices found"
原因分析
可能原因一:Ollama/ROCm 的 gfx 兼容性检查不认 RX 6750 XT 对应的架构标识。原报告者用 gfx1031 时,日志显示 “skipping rocm gfx compatibility check”,GPU 虽被识别但 rocBLAS/Tensile 无法初始化设备。
可能原因二:评论者指出 gfx1031 不被 ROCm 与 Ollama 支持,而 gfx1030 受支持,因此建议覆盖为 gfx1030。但改用 gfx1030 后,日志转而出现 “no compatible rocm library found” 与 “no suitable rocm found, falling back to CPU”,说明 ROCm 库未被 Ollama 正确识别,可能是通过发行版驱动管理器安装的 ROCm 与 Ollama 期望的库路径/版本不一致。
可能原因三:日志中的 amdgpu version file missing: /sys/module/amdgpu/version 提示 amdgpu 内核模块的版本信息文件缺失,可能影响 Ollama 对驱动的校验。此点 Issue 中未给出最终结论。
环境排查
- 确认 Ollama 版本(Issue 中为 0.3.0)与随包加载的 ROCm 库名称(Issue 日志为
rocm_v60102)。 - 确认是否安装了 ROCm v6;日志明确提示 “Either install rocm v6, or follow manual install instructions”。
- 确认
/sys/module/amdgpu/version是否存在;缺失时 Ollama 会给出 amdgpu 版本告警。 - 确认发行版驱动管理器安装的 ROCm 是否被 Ollama 识别为可用库,检查启动日志中是否出现 “no compatible rocm library found”。
- 确认
HSA_OVERRIDE_GFX_VERSION的当前取值(gfx1031 或 gfx1030),并对比两种取值下日志差异。 - Issue 未提供 Python、PyTorch、CUDA 版本信息,若与本问题无关可不作为必查项。
解决步骤
- 先在不设置
HSA_OVERRIDE_GFX_VERSION的情况下启动 Ollama,查看是否报 “no compatible GPUs were discovered” 或回落到 CPU,确认 GPU 发现阶段的状态。 - 可优先尝试将
HSA_OVERRIDE_GFX_VERSION由 gfx1031 改为 gfx1030 启动,观察 GPU 发现与兼容性检查日志的变化(评论者给出的首选建议,但原报告者未验证成功)。 - 若改为 gfx1030 后出现 “no compatible rocm library found”,按 Ollama Linux 文档的手动安装说明处理 ROCm 库识别问题(评论者引用的文档与 Issue #3037 中的配置示例)。
- 可优先尝试在服务配置中加入评论者给出的环境变量——
HSA_OVERRIDE_GFX_VERSION=10.3.0、AMD_SERIALIZE_KERNEL=3,以及OLLAMA_LLM_LIBRARY指向实际的 ROCm 库名;库名需按本机 Ollama 安装目录中实际存在的名称调整,不可直接照抄rocm_v60002。 - 修改配置后重启
ollama serve;评论者提到重启有帮助,但该说法未被原报告者确认。
验证方法
重启后查看 ollama serve 日志:若不再出现 “no compatible rocm library found” “will use cpu”,且 inference compute 行中 library 为 rocm、compute 为预期 gfx 值,同时不再出现 Could not initialize Tensile host: No devices found,说明 GPU 推理路径已被正常启用。最后实际加载一个模型并执行一次推理请求,确认 llama runner 能启动并返回结果,即可确认问题解决。
参考来源
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
这个方案解决了吗?
可以继续搜索完整报错,或查看同一工具的其他排查指南。


