分类: AI 工具排错

Misc. bug: Memory leak in the Vulkan engine

Misc. bug: Memory leak in the Vulkan engine

该报错是 llama.cpp 的 Vulkan 推理引擎在处理大量图像输入时出现内存泄漏,每次 Chat Completion 请求会额外增加约 300MB 显存/内存占用,直到系统内存耗尽被 Ubuntu OOM 杀掉。优先排查是否使用了 Vulkan 后端,以及是否调用的是 OpenAI 兼容接