[Bug]: Embedded chat (`/api/v1/chatbots/ /completions`) shows pre-compaction agentic citation markers; agentic mode ignores bare `[n]` marke

该报错通常出现在 RAGFlow 启用「引用/citations」的嵌入式聊天(Embedded chat)中使用 agentic 模式(thinking level 5)的长回答场景。优先排查两件事:嵌入式聊天接口是否回传了权威最终答案,以及模型输出的引用标记形态是否被引用扫描器识别。

快速结论:该报错通常出现在 RAGFlow 启用「引用/citations」的嵌入式聊天(Embedded chat)中使用 agentic 模式(thinking level 5)的长回答场景。优先排查两件事:嵌入式聊天接口是否回传了权威最终答案,以及模型输出的引用标记形态是否被引用扫描器识别。

适用环境:RAGFlow v1.0.0(Docker Compose,Go 服务 ragflow_server),Infinity v0.7.5 文档引擎,MySQL 8.0.40,聊天模型 deepseek-v4-flash,启用引用(quote)的聊天助手,页面为 /chats/share?shared_id=<chat_id>。相关代码在 main 分支 fe8201db895a 上仍存在。

最快修复方案:暂无确认的一步修复方案。Issue 中只给出了定位结论与补丁思路(嵌入式路径需检查 AnswerIsAuthoritative、扫描器需兼容 bare [n] 与 [ref=n] 等形态),未验证合并后的修复。

注意事项:上述均为 Issue 讨论中的分析与建议补丁思路,不代表已发布版本行为;标准聊天页与 OpenAI 兼容接口不受该问题影响,不要在标准聊天页复现失败后误判为同一问题。

问题场景

在 RAGFlow v1.0.0 中,通过嵌入式聊天页面(“Embed into webpage”链接)与启用了引用(quote)的聊天助手对话,并开启 agentic 模式(thinking level 5)、得到较长的多段答案时触发。标准聊天页和 OpenAI 兼容接口/api/v1/chatbots/<id>/completions所走的路径不同,本 Issue 指出标准聊天页不受影响。

报错原文

[Bug]: Embedded chat (`/api/v1/chatbots/<id>/completions`) shows pre-compaction agentic citation markers; agentic mode ignores bare `[n]` markers

现象概括(英文原文):agentic answers show raw [ID:n] markers or link to the wrong source;agentic mode finds no citations when the model writes bare [n] markers;部分回答的标记写成 [ref=14]、[ref=97],无扫描器匹配,最终 reference 为 {},答案不显示任何引用。

原因分析

可能原因 1:嵌入式路径丢弃了权威最终答案。agentic 流程在回合结束时会用 buildAgenticReference 只保留被引用的 chunk,并把标记重编号为 [ID:0] 至 [ID:n-1],以 AnswerIsAuthoritative: true 作为最终结果输出。但 streamChatbotTurn(internal/service/bot_completion.go)在已流式输出 delta 时把最终帧的 answer 置为 "",且从不检查 AnswerIsAuthoritative。浏览器保留的是流式原文里的原始 handle,却收到压缩后的 reference 列表,于是编号 ≥ 引用数量的标记按纯文本显示,编号在范围内的标记可能指向错误 chunk。

可能原因 2:bare [n] 标记不被识别。CitedIDsFromMarkers(internal/agentic_rag/citations.go)只匹配 \[ID:(\d+)\]。DeepSeek 有时会写成 [109] 而非 [ID:109],因此找不到任何引用。

可能原因 3:[ref=n] 形态不被任何扫描器匹配。citedRefRE 与前端标记正则都匹配不到;RepairBadCitationFormats 的 ref12 规则((?i)\bref\s*(\d+)\b)不允许 =,所以 [ref=14] 原样通过;能匹配的 [ref 14] 会被改写为 [[ID:14]],留下多余括号。

环境排查

  • 确认 RAGFlow 版本,Issue 基于 v1.0.0(commit db1cd5929a7885a3074547791f5ecc4d2f891739);若已升级,先确认上述代码路径是否已变化。
  • 确认访问的是嵌入式聊天页面 /chats/share?shared_id=<chat_id>,而不是标准聊天页。
  • 确认聊天助手已启用引用(quote),并开启 agentic 模式(thinking level 5)。
  • 确认部署方式为 Docker Compose,Go 服务为 ragflow_server,文档引擎为 Infinity v0.7.5,数据库为 MySQL 8.0.40。
  • 确认聊天模型为 deepseek-v4-flash;若更换模型,先观察是否仍输出 bare [n] 或 [ref=n] 形态。
  • 确认前端是否因 mergeAnswerChunk 逻辑而未应用最终答案:该函数仅在 chunk 带 final: true 且 answer 非空时才替换已累积文本。

解决步骤

  1. 先用标准聊天页对同一问题提问,对比引用标记是否正常。Issue 证据表明标准聊天页会依据 AnswerIsAuthoritative 用最终答案替换流式文本,可作为对照基线。
  2. 抓取嵌入式聊天接口的流式返回,重点检查最后一帧:若 answer 为空且带 final: true,说明客户端不会做最终替换,符合原因 1 的表现。
  3. 检查长回答中实际出现的标记形态,区分 [ID:n]、bare [n]、[ref=n](含 [ref 14]、[ref="n"] 等变体),以便判断命中的是哪一个原因。
  4. 若确认是原因 1,可优先尝试让嵌入式路径在 AnswerIsAuthoritative 为真时回传最终答案文本(或在客户端应用该最终帧),与 chat_session.go、openai_chat.go 的处理保持一致。
  5. 若确认是原因 2,可优先尝试扩展 CitedIDsFromMarkers,使其同时识别 bare [n]。
  6. 若确认是原因 3,可优先尝试在 RepairBadCitationFormats 执行前,于 buildAgenticReference 中把 [ref=n]、[ref="n"]、[ref: n]、[ref n]、(ref=n) 及组合形态 [ref=n, ref=m] 规范化为 [ID:n],仅限范围内的 handle;同时注意避免误改 the ref=3 attribute 这类正文文本。
  7. 跟踪相关 PR #22374(Fixes #22373)对 citation.go 中 ref= 标记的修复进展,先确认与本次修复是否重叠,避免重复修改。

验证方法

重新在嵌入式聊天中使用 agentic 模式生成含多处引用的长回答:最终文本中的引用标记应为连续的 [ID:n] 并被正确渲染为引用卡片,点击后指向的 chunk 内容与回答所述一致,不再出现 [ID:35] 这类纯文本标记;对同时包含 [n]、[ref=n] 变体的回答,存储的 reference 不应为空,且不得出现 [[ID:14]] 之类的多余括号。标准聊天页行为应保持不变。

参考来源

infiniflow/ragflow #22467

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 36045

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注