标签： LLM

用户在 Open WebUI v0.9.5/v0.9.6 中配置了 SearXNG 作为 Web 搜索引擎，发送聊天查询后联网搜索失败。该问题在 v0.9.4 中正常工作。用户环境包括 Docker 部署的 Open WebUI、llama.cpp 服务器以及 authentik OIDC 认证。

用户使用命令行 ollama run glm4:9b-chat-1m-q8_0 或 ollama run glm4 下载并运行 GLM-4-9B-Chat-1M 模型时，模型下载成功但加载失败，进程终止。问题出现在 macOS 系统上（Apple Silicon），Ollama 版本为 0.2.0

用户运行 RAGFlow v0.22.1 版本，通过 Docker 容器启动服务。每次重启容器时，都会触发 pip_install_torch 函数，导致 PyTorch 和相关 CUDA 依赖包被重新下载和安装，而不是直接启动。用户回忆旧版本可以直接重启，无需反复下载。

用户使用 3× RTX 3090 运行 llama.cpp（commit 2490fe65b 至 0f7fada56 之间版本），以 -sm row 模式加载 Gemma4-31B Q6_K_L 模型。在模型权重加载过程中发生崩溃。此前同一配置在更早提交下可正常加载。

用户在使用 llama-server 从 WebUI 发起推理时，特别是使用大型模型（如 MoE 模型、70B+ 参数模型）且模型加载速度较慢的场景下触发。典型环境： llama-server 搭配 --models-preset 多模型配置，使用 --threads-http 2 等低 HTTP