先解决问题，再了解资讯。选择你现在要完成的任务。
用户在运行 TextGen WebUI（text-generation-webui）时，使用 python server.py --gptq-bits 4 --model llama-7b 命令加载量化后的 LLaMA 模型，报错显示无法从 Transformers 中导入 LlamaConfig
![[Bug]: Tool schema marks **kwargs as a required (untyped) parameter, forcing the LLM to fill it](https://www.chat-gpts.plus/wp-content/uploads/2026/07/22134-dfdd0514-768x403.jpg)
用户在 LlamaIndex 中使用 FunctionTool.from_defaults() 包装一个带有 **kwargs 的函数，然后通过 llm.chat_with_tools() 调用 OpenAI 驱动并启用 strict=True 模式时触发此错误。该错误同样适用于其他带有 *args
用户在 Windows 系统下，使用 llama-server 加载 Gemma-4-26B-A4B 模型及其对应的 mmproj 文件，通过 Vulkan 后端在 AMD Radeon 780M Graphics（AMD 8840U）上运行。文本推理正常，但一旦输入图片，视觉编码器（vision
用户在 Linux 上使用 llama.cpp （版本 3808, debug 模式）时，通过 llama-gguf-split 合并了 Hugging Face 上的 Qwen2-57B-A14B-Instruct-GGUF 分卷文件，然后使用 llama-cli 加载生成的 qwen2-57b-
用户使用 Dify 1.15.0 自托管版本（Source 部署），在管理台执行 DELETE /console/api/workspaces/current/model-providers/langgenius/xinference/xinference/models/credentials 操作
用户自行部署 Dify（Docker 方式），在运行安全扫描或网安渗透测试时发现 /console/api/system-features 接口不需要任何认证即可访问，从而获取系统配置信息。用户尝试用 Nginx 拦截该接口后，Dify 页面报错无法正常加载。
![[Bug]: Vllm + Gemma 4 + claude code: tool calling problems](https://www.chat-gpts.plus/wp-content/uploads/2026/07/39043-5bb1c48d-768x403.jpg)
用户使用 vLLM 部署 Gemma 4 系列模型，通过 OpenAI 兼容 API 提供给 Claude Code 等工具进行多轮 agentic 工作流。在持续 20–30 次工具调用后，出现以下两类失败模式：
用户在 Open WebUI v0.10.2 中，使用 vLLM 0.24.0 部署 Qwen3.5-122B-A10B-AWQ 模型（通过 OpenAI 兼容端点）。其他客户端（Jan.ai）连接同一个 vLLM 端点时输出正常。问题出现在 Open WebUI 内的对话中：表现为无输出、开始正常
用户通过 Docker 运行 Open WebUI（0.10.1/0.10.2）和 SearXNG 最新容器，配置了正确的 WebUI websearch 设置（ http://searxng:8080/search?q=&format=json ），在 WebUI 中发起如 "Wha
用户在 Open WebUI v0.9.5/v0.9.6 中配置了 SearXNG 作为 Web 搜索引擎，发送聊天查询后联网搜索失败。该问题在 v0.9.4 中正常工作。用户环境包括 Docker 部署的 Open WebUI、llama.cpp 服务器以及 authentik OIDC 认证。