[Question]: No keyword or question was found in dataSet afer files loaded by customized ingestion pipeline

该报错通常在使用自定义 ingestion pipeline 处理文档时出现,关键词和问题在日志中已生成但未写入最终 chunk。优先排查 pipeline 中是否缺少 Tokenizer 步骤或等价的字段归一化逻辑。

快速结论:该报错通常在使用自定义 ingestion pipeline 处理文档时出现,关键词和问题在日志中已生成但未写入最终 chunk。优先排查 pipeline 中是否缺少 Tokenizer 步骤或等价的字段归一化逻辑。

适用环境:RAGFlow(infiniflow/ragflow),自定义 ingestion pipeline,数据集(DataSet)。Issue 中未提供具体的 Python、CUDA、显卡或操作系统版本信息。

最快修复方案:暂无确认的一步修复方案。可优先尝试在自定义 pipeline 中,于存储 chunk 前加入 Tokenizer 步骤(或等价逻辑),将原始字段 ‘keywords’/’questions’ 转换为 ‘important_kwd’/’question_kwd’ 列表,并删除原始字段。

注意事项:该方案来自 Issue 中的技术分析而非实际验证,属于“可能原因”层面的建议。同时需检查 parser 配置中的 auto_keywords 和 auto_questions 标志是否正确设置。

问题场景

用户在使用 RAGFlow 配置数据集(DataSet)时,启用了自定义 ingestion pipeline 来处理文档。处理完成后,日志中能够看到关键词(keywords)和问题(questions)的提取结果,但在最终生成的 chunk 数据中找不到这些字段,导致 UI 和 API 无法展示相关信息。

报错原文

[Question]: No keyword or question was found in dataSet afer files loaded by customized ingestion pipeline

原因分析

当使用自定义 ingestion pipeline 时,关键词和问题虽然已在日志中生成,但可能原因如下:

在最终 chunk 数据中,这些字段需要以 ‘important_kwd’ 和 ‘question_kwd’ 列表的形式存储。这个归一化过程由 Tokenizer 组件或在 pipeline 中的显式后处理逻辑完成。如果自定义 pipeline 缺少这一步骤或配置有误,chunk 中就不会包含预期的字段,即使上游日志显示提取成功。

环境排查

  • 确认 RAGFlow 版本是否为最新或 Issue 讨论时对应的版本。
  • 检查自定义 ingestion pipeline 的完整流程定义,确认是否包含 Tokenizer 步骤。
  • 核查 parser 配置中的 auto_keywords 和 auto_questions 标志是否设置为开启状态。
  • 确认自定义 pipeline 中是否有处理 ‘keywords’ 和 ‘questions’ 原始字段并将其转换为 ‘important_kwd’ 和 ‘question_kwd’ 的逻辑。

解决步骤

  1. 检查自定义 ingestion pipeline 代码,确认在存储 chunk 之前是否调用了 Tokenizer 组件或等价逻辑。
  2. 如果缺少 Tokenizer 步骤,在 pipeline 中加入该步骤,或编写等价的后处理逻辑。
  3. 确保归一化逻辑完成以下操作:将 ‘keywords’ 转换为 ‘important_kwd’ 列表,将 ‘questions’ 转换为 ‘question_kwd’ 列表。
  4. 删除原始字段 ‘keywords’ 和 ‘questions’,避免冗余数据。
  5. 检查 parser 配置中的 auto_keywords 和 auto_questions 标志,确保它们已正确启用。
  6. 重新运行 ingestion pipeline,并检查生成的 chunk 数据是否包含 ‘important_kwd’ 和 ‘question_kwd’ 字段。

验证方法

重新运行自定义 ingestion pipeline 后,检查最终生成的 chunk 数据。确认 ‘important_kwd’ 和 ‘question_kwd’ 列表已存在且包含预期的关键词和问题。同时,在 UI 或 API 中查看数据集详情,确认关键词和问题字段能够正常显示。

参考来源

infiniflow/ragflow #11474

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

这个方案解决了吗?

celebrityanime
celebrityanime
文章: 18313

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注