Feature Request: tool to list and delete cached models

问题场景

用户通过 llama.cpp 的 -hf 选项从 Hugging Face 自动拉取模型。模型被放入本机模型缓存目录，随着时间推移占用空间增大。用户希望像 Ollama 的 ls 和 rm 一样，能列出已缓存模型、查看各自占用空间，并用单条命令删除某个模型关联的全部缓存文件。Issue 作者为此自建了 Python 脚本，示例命令为 ./llama-cache ls 和 ./llama-cache rm 模型标识。

报错原文

Feature Request: tool to list and delete cached models

原因分析

可能原因：llama.cpp 当时没有内置的缓存管理命令，-hf 拉取的模型文件与其元数据（manifest、etag 等）散落在缓存目录中，用户只能手动浏览和删除。Issue 正文把这一点描述为功能缺失而非 bug。讨论中提到的新缓存格式会在模型文件旁保存元数据，本身就为这类列表/删除能力预留了可能性，但截至该 Issue 关闭，官方命令尚未落地。

环境排查

• 确认是否使用 -hf 选项拉取模型，以及当前 llama.cpp 的构建来源和版本。
• 确认本机模型缓存目录的实际位置；Issue 示例仅展示了 macOS 上的 ~/Library/Caches/llama.cpp/，其他平台路径需自行核实。
• 统计缓存目录占用空间，判断是否确有清理需求。
• 若尝试社区 Python 脚本，确认本机 Python 可运行该脚本，并先阅读脚本源码确认其删除逻辑。
• 检查所用 llama.cpp 版本是否已包含 llama-pull 相关能力，Issue 中引用的 PR #16423 不应默认视为已合并。

解决步骤

1. 先定位缓存目录，列出其中文件，了解每个模型的 gguf、json（manifest/etag）以及可能的 mmprog 文件的命名对应关系。
2. 可优先尝试 Issue 作者在正文中给出的 Python 脚本（gist 链接），先用 ls 类操作核对脚本识别出的模型名、大小和修改时间是否与目录内容一致。
3. 确认无误后再执行删除操作，并按 Issue 示例核对输出中每个被删除文件都属于目标模型。
4. 若选择手动清理，按模型前缀成组删除 gguf、json 等关联文件，避免只删模型权重而残留元数据。
5. 关注 llama-pull 工具（PR #16423）及讨论中的子命令方案进展；在其合并并发布前，不要假设 llama-cli ls、llama-cli rm 或 llama-ls、llama-rm 可用。

验证方法

清理后重新列出缓存目录，确认目标模型的 gguf、manifest/etag（以及多模态模型的 mmprog 及其 etag）均已不存在，且其他模型的缓存文件未被误删；随后用 -hf 重新拉取该模型，确认能正常下载并启动推理。

参考来源

ggml-org/llama.cpp #16393

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。