标签： LLM

该报错通常发生在 RAGFlow 添加 Ollama Chat 模型时，返回 “No models found for provider ‘Ollama’” 且错误码为 102。优先排查添加模型时是否勾选了模型列表，而不是直接检查 Ollama 连接。

这个报错通常发生在 llama.cpp 的 llama-server 以路由模式启动、同时全局设置了 DRY 采样器参数时，模型输出会与提示词产生字符级替换或插入错误，看起来像 AMD GPU 后端（Vulkan/ROCm）精度问题。优先排查 llama-server 预设中的 DRY 采样参数，而

该报错发生在 vLLM 使用 FP8 动态量化版 Mistral-Small-3.1（Pixtral）多模态模型处理图片请求时，且仅在启用 torch.compile / CUDA Graph 的情况下出现；优先尝试添加 --enforce-eager 启动参数绕过。

此报错通常发生在使用 AMD 核显（RADV Vulkan 驱动）加载模型时，且 Ollama 0.24.0 之后版本在特定硬件上无法正常初始化 Vulkan 后端。优先排查方向是确认是否使用了 iGPU 且 Vulkan 驱动版本是否与 Ollama 的 llama.cpp 同步版本存在兼容问题。

Misc. bug: Pre-built Windows ROCm binary does not detect GPU 通常出现在只安装了 AMD Adrenaline 驱动、但没有单独安装 ROCm/TheRock SDK 的 Windows 机器上。优先检查是否已按 AMD 官方指引安装并配置