分类: AI 工具排错

[Question]: Chat doesn’t retrieve answer from knowledge

[Question]: Chat doesn't retrieve answer from knowledge

这个问题通常出现在 RAGFlow 中聊天机器人的检索组件未正确关联知识库,或系统提示词缺少 {knowledge} 变量,导致大语言模型(LLM)无法接收知识库内容。优先检查知识库是否已正确关联、嵌入模型是否一致,以及系统提示词是否包含 {knowledge} 变量。

Eval bug: random crashes in cudaStreamSynchronize

Eval bug: random crashes in cudaStreamSynchronize

该报错是 llama.cpp 在 CUDA 后端执行推理时,GPU 因长时间被占用未响应导致驱动看门狗(Watchdog)超时并触发内核态重置(Xid 8),进而引发 cudaStreamSynchronize 同步失败。优先排查 GPU 看门狗超时时间设置及超长上下文推理导致的单次 Kernel

issue: workspace model entry with base_model_id set to its own id is dropped at merge, so its settings never apply

issue: workspace model entry with base_model_id set to its own id is dropped at merge, so its settings never apply

这是 Workspace 模型条目在合并时被丢弃导致的配置不生效问题。核心原因是自定义模型条目的 base_model_id 被错误设置成了它自己的 id(或任意非空值),导致该条目在模型列表合并时被丢弃,所有元数据设置(如禁用内置工具)从未被应用。优先排查 base_model_id 字段值。

RuntimeError: Already borrowed

RuntimeError: Already borrowed

该报错发生在多线程并发调用同一 tokenizer 实例时,尤其是每次调用的 padding/truncation 设置不同导致每次都会触发内部状态重配的场景。优先排查是否为同一 tokenizer 实例被多线程共享,并检查每次调用的 padding/truncation 参数是否一致。