标签： LLM

用户在 Ubuntu 22.04 系统上，通过 Ollama 0.30.5 运行 ollama run gemma4:12b-it-q8_0 --verbose 时，出现 llama-server 内部 CUDA 错误。用户使用的显卡为 Tesla V100-SXM2-32GB（Compute Ca

用户运行 llama-server.exe 并启用内置工具 edit_file。当 LLM 决定调用该工具来追加内容到一个已存在的文本文件时，特别是在 append 模式下传入 -1 作为 line_start/line_end 参数，llama-server 进程会直接崩溃，退回到命令行提示符，不

用户在使用 llama.cpp 的 llama-server 或 llama-cli 进行分布式投机解码时，尝试通过 --spec-draft-model 指定远端 GPU 机器上的草稿模型（例如笔记本电脑上的 GPU 草稿模型，服务器上的 CPU 目标模型）。但现有参数要求草稿模型文件必须位于本地

用户在 Windows PowerShell 中运行 llama.exe（版本 b9733-f449e0553），尝试使用子命令如 llama serve 、 llama cli 、 llama version 时触发。其中 llama version 能正常显示版本号，但子命令无法识别。