标签： LLM

用户在运行 vLLM (版本 0.21.0) 的分离式推理 (disaggregated inference) 时，使用 NixlConnector 作为 KV 连接器，并配置了非同等的 TP 大小 (例如 Prefill TP=8, Decode TP=16，或 TP=8 对 TP=16)。问题触

用户在 RAGFlow 后台通过“Embed into webpage”功能生成了嵌入式聊天页面的 HTML 代码。页面能正常加载并与 Agent 对话，但点击“Thinking”按钮时触发认证警告，导致该功能不可用。该问题在 v0.24.0 版本之后出现。

用户在 Docker 中运行 llama.cpp server (vulkan 后端) 加载 Gemma 4 系列模型（Gemma4-12B qat+mtp 和 Gemma4-26B-A4B），使用 Intel ARC B580 显卡。输出包含乱码（符号、不同语种混杂）。同配置下 CPU 推理正常，

用户在 RAGFlow（Commit ID: d8752db, Image: v0.17.2 full）的聊天助手（Chat Assistant）窗口中上传图片（JPG/PNG）时触发，表现为图片识别失效、重复授权报错及模型 API 断连。用户先后应用了 Commit cc8029a（修复图片识别）

用户使用 llama.cpp 的 server-intel Docker 镜像（构建编号 #9468，提交 354ebac8c）在 Intel Arc Pro B50 Battlemage GPU 上运行 llama-bench 测试 Gemma 4 26B（Q3_K_M 量化）模型。通过将基础镜像