标签： LLM

这条“Feature Request: tool to list and delete cached models”是功能需求，并非运行时故障。它发生在使用 llama.cpp 的 -hf 选项自动从 Hugging Face 拉取模型后，缓存目录持续变大、缺少官方的列表与删除命令时。优先确认下载与

该报错出现在 llama-server 同时启用 --spec-type draft-mtp,ngram-mod 进行投机解码时，模型输出大段逐字代码会在 token 回滚后出现重复或缺失的代码块。优先排查两路 draft 混用与 CUDA 构建的配合问题，而不是模型文件本身。

该报错通常出现在用 llama.cpp 或基于 llama.cpp 的前端（llama-server、LM Studio、RamaLama 等）加载 Gemma 3 GGUF 模型时，模型元数据里缺少 gemma3.attention.layer_norm_rms_epsilon 这个键。优先排查模

当 Python 前端用 --reasoning-effort-map 把 minimal 、 medium 等 OpenAI 强度名映射到模型认识的值，而 vllm-rs render 启动时没有这个参数时，发往 Rust 渲染服务、带映射前 reasoning_effort 的请求就会返回 40

该错误通常出现在 vLLM 服务处理包含大 batch 或多媒体的请求时，多模态缓存（MultiModalReceiverCache）中的条目被同请求内更早出现的新条目挤出缓存，导致后续读取时找不到已标记为“已缓存”的条目；优先排查并调整多模态处理器缓存容量，或将缓存关闭。

在 RAGFlow 的 Go 解析链路中，当 PDF 走 OpenDataLoader（ opendataloader_apiserver 或租户 OpenDataLoader 模型引用）解析时，解析结果只保留文本、类型和表格单元格，丢弃了服务返回的元素几何信息，因此切片结果没有 positions