unsupported JetPack

用户在使用 NVIDIA Jetson 设备(如 Orin AGX、Orin Nano、Thor)并安装了 JetPack 7.2 后,通过官方安装脚本 curl -fsSL https://ollama.com/install.sh | sh 安装 Ollama,安装过程中出现 unsupport

快速结论:报错发生在 NVIDIA Jetson 设备上运行 Ollama 时,JetPack 7.2 不被支持。优先检查 JetPack 版本,若已安装且使用 CPU 运行,可尝试通过设置环境变量 JETSON_JETPACK=6 强制让 Ollama 使用 GPU。

问题场景

用户在使用 NVIDIA Jetson 设备(如 Orin AGX、Orin Nano、Thor)并安装了 JetPack 7.2 后,通过官方安装脚本 curl -fsSL https://ollama.com/install.sh | sh 安装 Ollama,安装过程中出现 unsupported JetPack detected 报错,或者安装后模型运行时只使用 CPU(100% CPU 占用)而未使用 GPU。

报错原文

WARNING: Unsupported JetPack version detected.  GPU may not be supported
unsupported JetPack detected

原因分析

可能原因:Ollama 的默认安装脚本在 JetPack 7.2(L4T r38/r39)上未能正确检测或映射支持的 CUDA 版本,导致无法加载预编译的 GPU 支持包。具体地,Ollama 支持的预编译计算能力列表(如 8.0、8.5、11.0)中没有包含 Jetson Orin 设备的计算能力 8.7,导致 GPU 无法被正常调用。

环境排查

celebrityanime
celebrityanime
文章: 27606

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注