标签： LLM

用户在 Windows 上运行 llama-server.exe （来自 ggml-org/llama.cpp 工具），通过命令行指定了 --reasoning on --reasoning-budget 8192 启动参数，用于支持 Gemma 4 等需要推理层级触发的模型。打开 WebUI 后发

用户在 Open WebUI 中连接本地运行的 BaseRT 推理服务时，遇到以下问题：

用户在 Linux (NVIDIA GDX Spark) 系统上，使用 Ollama 0.23.1 执行 ollama pull gemma4:31b-coding-mtp-bf16 时，拉取失败并返回错误。

用户在 Ollama 0.30.4 中运行 glm-4.7-flash 模型（Windows/AMD、Linux/Docker/AMD 双环境均复现），用于本地 agent 任务（Hermes agent、OpenCode 开发），出现离谱幻觉与工具调用损坏。同一模型在 0.24.0 下正常。

用户使用 DOC_ENGINE=infinity 环境变量启动 RAGFlow 服务，创建知识库后，在未插入任何文档或 Chunk 的情况下，直接修改知识库的 Page Rank 参数并点击“保存”，触发后端报错。