标签： LLM

该报错通常发生在使用 llama.cpp 的 RPC 功能，将 DeepSeek V4 等大模型的长提示词（超过 4096 tokens）分配到 AMD gfx1151（Radeon 8060S / Ryzen AI Max+ 395）ROCm 后端进行预填充时，远程 RPC 工作进程会直接崩溃。优

该报错发生在 Ollama 导入新架构模型的 GGUF 文件时，因为 Ollama 内置的 llama-quantize 尚未包含该架构的兼容补丁。优先排查你的模型架构是否在 Ollama 当前支持列表中，并考虑升级 Ollama 或等待官方支持。

该问题发生在 RAGFlow 配置了 rerank 模型且数据集中分块带有自动生成问题（question_kwd / question_tks）的场景。由于 rerank_by_model 路径在构建传给 cross-encoder 的文档字符串时遗漏了 question_tks ，导致模型重排时完

该报错发生在 llama-server 启用 unified KV cache 且并行处理多个请求时，第二个请求开始处理后，第一个请求的解码出现上下文错乱（表现为“失忆”和幻觉）。优先排查是否启用了 unified KV cache（`-ub` 参数），并确认是否使用了索引器（indexer）类模型

该报错是 llama.cpp 的 Vulkan 推理引擎在处理大量图像输入时出现内存泄漏，每次 Chat Completion 请求会额外增加约 300MB 显存/内存占用，直到系统内存耗尽被 Ubuntu OOM 杀掉。优先排查是否使用了 Vulkan 后端，以及是否调用的是 OpenAI 兼容接