bad command line parsing behaviour with some filenames

问题场景

用户使用 llama.cpp 的 quantize 工具对 GGUF 模型文件进行量化时，输入类似命令：
quantize 08x7bhf.gguf 08x7bhfGGUF~ Q4_K_S
期望将输入文件量化为输出文件，但命令执行失败。

报错原文

main: invalid nthread 'Q4_K_S' (stoi)

原因分析

可能原因是 quantize 命令的参数解析器在处理文件名中的数字时，错误地将文件名的一部分（如 08x7bhf）解释为数值参数（如线程数 nthread），导致后续的量化类型参数（如 Q4_K_S）被错误分配给 nthread，从而触发 stoi 转换异常。Issue 中用户通过移除文件名中的数字后问题消失，进一步佐证了此猜测。

环境排查

• 确认 llama.cpp 版本（建议检查是否包含旧版命令行解析器）。
• 检查输入文件名是否包含连续数字、特殊符号（如 08x7bhf.gguf 或 13b-psyfighter2-erebus3-dareties）。
• 验证是否尝试过使用 -- 参数分隔符（Issue 中提到无效）。

解决步骤

1. 将输入文件名中所有连续的数字移除或替换为字母（例如 08x7bhf → bhf，或 13b-psyfighter2-erebus3-dareties → psyfighter-erebus-dareties）。
2. 保持输出文件名也避免包含数字，或使用完全不同的名称。
3. 重新执行量化命令，例如：
   quantize bhf.gguf output.gguf Q4_K_S

验证方法

运行修改后的命令，观察是否正常开始量化过程（输出进度信息），不再出现 invalid nthread 错误。量化完成后，检查输出文件是否生成且可用。

参考来源

ggml-org/llama.cpp #6163

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。