Misc. bug: llamacpp crashes my PC whenever I close the console for it.

用户使用 llama-server.exe 启动 llama.cpp 服务器,在加载模型后关闭控制台窗口或按 Ctrl+C 退出时,系统立即蓝屏并重启。问题在 Windows 系统上发生,涉及 NVIDIA GPU 和可能的 Vulkan 后端。

Misc. bug: llamacpp crashes my PC whenever I close the console for it.

Misc. bug: llamacpp crashes my PC whenever I close the console for it.

快速结论:该问题表现为关闭 llama.cpp 控制台或按 Ctrl+C 时导致 Windows 蓝屏(BSOD),错误可能与 Vulkan 后端或 NVIDIA 显卡驱动有关。优先尝试切换至 CUDA 后端,或更新 NVIDIA 驱动至较新版本(如 610.62)。

问题场景

用户使用 llama-server.exe 启动 llama.cpp 服务器,在加载模型后关闭控制台窗口或按 Ctrl+C 退出时,系统立即蓝屏并重启。问题在 Windows 系统上发生,涉及 NVIDIA GPU 和可能的 Vulkan 后端。

报错原文

VIDEO_MEMORY_MANAGEMENT_INTERNAL

以及系统蓝屏提示:your PC has run into a problem

原因分析

根据 Issue 讨论,最可能的原因是:NVIDIA Windows 显卡驱动中的 bug,并非 llama.cpp 本身的错误。用户在使用 Vulkan 后端时更容易触发此问题,而切换至 CUDA 后端或更新驱动可解决。此外,加载模型时显存不足也可能导致相同蓝屏错误。

环境排查

  • 操作系统:Windows(具体版本如 Win10/11)
  • GPU:NVIDIA 显卡(如 RTX 系列)
  • NVIDIA 驱动版本:已知有问题的版本如 581.57,修复版本 610.62
  • llama.cpp 后端:CUDA 还是 Vulkan?
  • llama.cpp 版本:5884(c31e6064)
  • 命令行参数:-ngl 999 全层 GPU 卸载

解决步骤

  1. 可优先尝试:切换至 CUDA 后端。如果当前使用 Vulkan 后端,下载并使用包含 CUDA 支持的 llama.cpp 版本(如 llama-cpp-cuda)。
  2. 更新 NVIDIA 显卡驱动。将驱动升级至 610.62 或更高版本(可从 NVIDIA 官网获取)。
  3. 如果以上无效,尝试减少 GPU 卸载层数(例如使用 -ngl 35 或更小值),避免显存溢出。
  4. 检查 Windows 事件查看器(Event Viewer)中“系统”日志,获取更详细的蓝屏错误代码,辅助定位驱动问题。

验证方法

重复加载模型并结合关闭控制台的操作。如果不再蓝屏,且系统稳定运行,则问题已解决。

参考来源

ggml-org/llama.cpp #14713

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

celebrityanime
celebrityanime
文章: 8557

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注