AMD Radeon RX 6750 XT Support

当 Ollama 在 Linux 上无法识别 AMD Radeon RX 6750 XT,并出现 AMD Radeon RX 6750 XT Support 相关的 GPU 发现失败与 rocBLAS 初始化错误时,通常是因为 Ollama 对 AMD 显卡架构的兼容性识别与 ROCm/ROCR 运

快速结论:当 Ollama 在 Linux 上无法识别 AMD Radeon RX 6750 XT,并出现 AMD Radeon RX 6750 XT Support 相关的 GPU 发现失败与 rocBLAS 初始化错误时,通常是因为 Ollama 对 AMD 显卡架构的兼容性识别与 ROCm/ROCR 运行库环境不匹配。优先排查 HSA_OVERRIDE_GFX_VERSION 的取值,以及 Ollama 能否检测到可用的 ROCm 库。

适用环境:Issue 中确认涉及 Ollama 0.3.0、Linux(Nobara 驱动管理器安装的 ROCm/amdgpu 驱动),AMD Radeon RX 6750 XT(日得日志显示 12.0 GiB 显存)。原日志中动态加载的库为 rocm_v60102。Issue 未提供 Python、PyTorch、CUDA 版本等证据,未予补写。

最快修复方案:暂无确认的一步修复方案。Issue 讨论中可优先尝试将 HSA_OVERRIDE_GFX_VERSION 设为 gfx1030(评论者称 gfx1031 不受 ROCm 与 Ollama 支持,而 gfx1030 受支持);若仍失败,可参考维护文档的 Linux 手动安装说明处理 ROCm 库识别问题。

注意事项:gfx1030 方案在 Issue 中并未被原报告者验证成功——其改用 gfx1030 后仍报 Could not initialize Tensile host: No devices found,且出现 “no compatible rocm library found” 的告警。另一条建议涉及 AMD_SERIALIZE_KERNEL=3 与 OLLAMA_LLM_LIBRARY 覆盖,评论者明确提示该库名需按实际 Ollama 版本调整,属推测性尝试,且重启是否生效也未被确认。

问题场景

用户在 Linux 上运行 ollama serve,希望让 Ollama 使用 AMD Radeon RX 6750 XT 进行推理。直接启动时 Ollama 找不到受支持的 GPU;使用 env HSA_OVERRIDE_GFX_VERSION=gfx1031 ollama serve 强制指定架构后,GPU 能被发现(compute=gfx1031),但启动 llama runner 时 rocBLAS 初始化失败,推理进程无法启动。

报错原文

WARN source=amd_linux.go:58 msg="ollama recommends running the https://www.amd.com/en/support/linux-drivers" error="amdgpu version file missing: /sys/module/amdgpu/version stat /sys/module/amdgpu/version: no such file or directory"

WARN source=amd_linux.go:380 msg="amdgpu detected, but no compatible rocm library found.  Either install rocm v6, or follow manual install instructions at https://github.com/ollama/ollama/blob/main/docs/linux.md#manual-install"

WARN source=amd_linux.go:307 msg="unable to verify rocm library, will use cpu" error="no suitable rocm found, falling back to CPU"

rocBLAS error: Could not initialize Tensile host: No devices found

ERROR source=sched.go:443 msg="error loading llama server" error="llama runner process has terminated: error:Could not initialize Tensile host: No devices found"

原因分析

可能原因一:Ollama/ROCm 的 gfx 兼容性检查不认 RX 6750 XT 对应的架构标识。原报告者用 gfx1031 时,日志显示 “skipping rocm gfx compatibility check”,GPU 虽被识别但 rocBLAS/Tensile 无法初始化设备。

可能原因二:评论者指出 gfx1031 不被 ROCm 与 Ollama 支持,而 gfx1030 受支持,因此建议覆盖为 gfx1030。但改用 gfx1030 后,日志转而出现 “no compatible rocm library found” 与 “no suitable rocm found, falling back to CPU”,说明 ROCm 库未被 Ollama 正确识别,可能是通过发行版驱动管理器安装的 ROCm 与 Ollama 期望的库路径/版本不一致。

可能原因三:日志中的 amdgpu version file missing: /sys/module/amdgpu/version 提示 amdgpu 内核模块的版本信息文件缺失,可能影响 Ollama 对驱动的校验。此点 Issue 中未给出最终结论。

环境排查

  • 确认 Ollama 版本(Issue 中为 0.3.0)与随包加载的 ROCm 库名称(Issue 日志为 rocm_v60102)。
  • 确认是否安装了 ROCm v6;日志明确提示 “Either install rocm v6, or follow manual install instructions”。
  • 确认 /sys/module/amdgpu/version 是否存在;缺失时 Ollama 会给出 amdgpu 版本告警。
  • 确认发行版驱动管理器安装的 ROCm 是否被 Ollama 识别为可用库,检查启动日志中是否出现 “no compatible rocm library found”。
  • 确认 HSA_OVERRIDE_GFX_VERSION 的当前取值(gfx1031 或 gfx1030),并对比两种取值下日志差异。
  • Issue 未提供 Python、PyTorch、CUDA 版本信息,若与本问题无关可不作为必查项。

解决步骤

  1. 先在不设置 HSA_OVERRIDE_GFX_VERSION 的情况下启动 Ollama,查看是否报 “no compatible GPUs were discovered” 或回落到 CPU,确认 GPU 发现阶段的状态。
  2. 可优先尝试将 HSA_OVERRIDE_GFX_VERSION 由 gfx1031 改为 gfx1030 启动,观察 GPU 发现与兼容性检查日志的变化(评论者给出的首选建议,但原报告者未验证成功)。
  3. 若改为 gfx1030 后出现 “no compatible rocm library found”,按 Ollama Linux 文档的手动安装说明处理 ROCm 库识别问题(评论者引用的文档与 Issue #3037 中的配置示例)。
  4. 可优先尝试在服务配置中加入评论者给出的环境变量——HSA_OVERRIDE_GFX_VERSION=10.3.0、AMD_SERIALIZE_KERNEL=3,以及 OLLAMA_LLM_LIBRARY 指向实际的 ROCm 库名;库名需按本机 Ollama 安装目录中实际存在的名称调整,不可直接照抄 rocm_v60002。
  5. 修改配置后重启 ollama serve;评论者提到重启有帮助,但该说法未被原报告者确认。

验证方法

重启后查看 ollama serve 日志:若不再出现 “no compatible rocm library found” “will use cpu”,且 inference compute 行中 library 为 rocm、compute 为预期 gfx 值,同时不再出现 Could not initialize Tensile host: No devices found,说明 GPU 推理路径已被正常启用。最后实际加载一个模型并执行一次推理请求,确认 llama runner 能启动并返回结果,即可确认问题解决。

参考来源

ollama/ollama #6003

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 36045

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注