
Misc. bug: llamacpp crashes my PC whenever I close the console for it.
快速结论:该问题表现为关闭 llama.cpp 控制台或按 Ctrl+C 时导致 Windows 蓝屏(BSOD),错误可能与 Vulkan 后端或 NVIDIA 显卡驱动有关。优先尝试切换至 CUDA 后端,或更新 NVIDIA 驱动至较新版本(如 610.62)。
问题场景
用户使用 llama-server.exe 启动 llama.cpp 服务器,在加载模型后关闭控制台窗口或按 Ctrl+C 退出时,系统立即蓝屏并重启。问题在 Windows 系统上发生,涉及 NVIDIA GPU 和可能的 Vulkan 后端。
报错原文
VIDEO_MEMORY_MANAGEMENT_INTERNAL
以及系统蓝屏提示:your PC has run into a problem。
原因分析
根据 Issue 讨论,最可能的原因是:NVIDIA Windows 显卡驱动中的 bug,并非 llama.cpp 本身的错误。用户在使用 Vulkan 后端时更容易触发此问题,而切换至 CUDA 后端或更新驱动可解决。此外,加载模型时显存不足也可能导致相同蓝屏错误。
环境排查
- 操作系统:Windows(具体版本如 Win10/11)
- GPU:NVIDIA 显卡(如 RTX 系列)
- NVIDIA 驱动版本:已知有问题的版本如 581.57,修复版本 610.62
- llama.cpp 后端:CUDA 还是 Vulkan?
- llama.cpp 版本:5884(c31e6064)
- 命令行参数:
-ngl 999全层 GPU 卸载
解决步骤
- 可优先尝试:切换至 CUDA 后端。如果当前使用 Vulkan 后端,下载并使用包含 CUDA 支持的 llama.cpp 版本(如
llama-cpp-cuda)。 - 更新 NVIDIA 显卡驱动。将驱动升级至 610.62 或更高版本(可从 NVIDIA 官网获取)。
- 如果以上无效,尝试减少 GPU 卸载层数(例如使用
-ngl 35或更小值),避免显存溢出。 - 检查 Windows 事件查看器(Event Viewer)中“系统”日志,获取更详细的蓝屏错误代码,辅助定位驱动问题。
验证方法
重复加载模型并结合关闭控制台的操作。如果不再蓝屏,且系统稳定运行,则问题已解决。



