nvidia pascal support broken (CUDA error) in ver 0.40.13

快速结论：该报错通常出现在 Ollama 0.40.13 于 Windows 上加载 CUDA 模型（llama-server）时，GPU 无法使用内置 CUDA 内核的 PTX。优先排查显卡驱动版本，尤其是 Pascal 架构显卡（如 GTX 10 系列）是否过旧。

适用环境：Ollama 0.40.13；Windows 11 Professional；NVIDIA GTX 1080（8GB，Pascal 架构）；AMD Ryzen 5800X；64GB 内存；配合 Open WebUI v0.12.5 使用。

最快修复方案：将 NVIDIA 驱动更新至 582.78 桌面版 Windows 驱动（582.78-desktop-win10-win11-64bit-international-dch-whql），Issue 报告者按此操作后问题解决。

注意事项：该结论来自单个 Issue 的反馈，属驱动兼容性问题，尚无更广范围验证；更新驱动前建议确认安装包与系统版本、显卡型号匹配，并从官方或可靠渠道获取。若更新后仍报相同 PTX 错误，需进一步排查 CUDA 运行时与 Ollama 版本组合。

问题场景

用户在 Windows 11 上运行 Ollama 0.40.13，并接入 Open WebUI v0.12.5，尝试加载模型时，Ollama 内部启动的 llama-server（CUDA 12 构建）在初始化 CUDA 内核阶段失败，模型无法正常执行，服务反复显示 “llm server not responding”，最终加载失败。硬件为 NVIDIA GTX 1080（Pascal 架构）。

报错原文

C:\a\ollama\ollama\build\llama-server-cuda_v12\_deps\llama_cpp-src\ggml\src\ggml-cuda\ggml-cuda.cu:110: CUDA error

CUDA error: the provided PTX was compiled with an unsupported toolchain.
  current device: 0, in function ggml_cuda_kernel_can_use_pdl at C:\a\ollama\ollama\build\llama-server-cuda_v12\_deps\llama_cpp-src\ggml\src\ggml-cuda\common.cuh:1676
  cudaFuncGetAttributes(&attr, kernel)

time=2026-11-02T23:59:28.273-05:00 level=ERROR source=llama_server.go:1073 msg="llama-server terminated" error="exit status 0xc0000409" exit.code=3221226505 exit.hex=0xc0000409
Load failed model=... error="llama-server process has terminated: exit status 0xc0000409: The system detected an overrun of a stack-based buffer in this application. ... CUDA error\nCUDA error: the provided PTX was compiled with an unsupported toolchain."

原因分析

核心报错是 “the provided PTX was compiled with an unsupported toolchain”，说明 Ollama 自带 CUDA 内核中预编译的 PTX 与当前 NVIDIA 驱动所能提供的 CUDA 工具链不兼容。GTX 1080 属于 Pascal 架构，其可支持的 CUDA 能力上限相对较新架构更受限，叠加旧版驱动时更容易出现这种不匹配。Issue 中更新驱动后问题消失，因此最可能的原因是驱动版本过旧（或与 Ollama 0.40.13 使用的 CUDA 12 构建不匹配），而非模型文件本身损坏。后续的 0xc0000409 栈缓冲区溢出报错，可能是 CUDA 初始化失败后 llama-server 异常退出的连带结果。

环境排查

确认 Ollama 版本：Issue 中为 0.40.13。
确认操作系统：Windows 11 Professional（64 位）。
确认显卡型号与架构：NVIDIA GTX 1080（Pascal），8GB 显存；驱动版本需重点核对。
确认 NVIDIA 驱动是否为较新版本，以及安装包类型（desktop、DCH、win10/win11 64bit）是否与系统匹配。
确认使用的是 Ollama 的 CUDA 构建（日志路径为 llama-server-cuda_v12）。
如问题仍在，可记录 CUDA 运行时/驱动版本，便于对照工具链兼容性。

解决步骤

先确认当前 NVIDIA 驱动版本，并记录 Ollama 版本为 0.40.13 等相关信息，便于回退对照。
下载并安装与系统匹配的新版 NVIDIA 驱动：582.78-desktop-win10-win11-64bit-international-dch-whql。
安装完成后重启系统，确保新驱动生效。
重新启动 Ollama，并重新加载此前失败的模型，观察是否仍出现 CUDA 与 PTX 报错。

验证方法

重新运行加载模型的请求（或通过 Open WebUI 发起对话），检查 llama-server 是否正常启动、日志中不再出现 “the provided PTX was compiled with an unsupported toolchain” 以及 “llm server not responding / Load failed”，模型能够正常输出即可确认问题已解决。