标签： LLM

该报错发生在 vLLM V2 Runner 启用流水线并行（PP=8）配合 DSpark 投机解码（DeepSeek-V4-Flash 模型）时，表现为长时间运行后 PP 末级 rank 死锁、采样 token 广播协议错位。优先排查 PP 广播的 NCCL 集体通信调度是否因数据依赖产生跨步错位，

该报错发生在 macOS Apple Silicon 上使用 llama.cpp 加载官方 LiquidAI LFM2.5-2.6B DSpark 草稿模型进行推测解码时，首次生成请求即触发原生图断言崩溃。优先排查 llama.cpp 版本是否过旧，升级到 v0.2.0（或 b10541 及以上）即

在 llama-server 中，当同时启用 `--embeddings`（或 `--embedding`）和 `--spec-type draft-mtp` 时，启动过程会因 GGML_ASSERT 失败而中止。优先排查方案是确保不要同时启用这两个选项，或尝试暂时移除 `--spec-type d

这个报错通常发生在通过 RAGFlow API 或服务层创建会话（Conversation）时，未从登录用户会话或请求上下文中正确提取 user_id，导致数据库记录中该字段为空。优先检查会话创建和更新的代码路径，确保 user_id 被显式传入。

这个报错通常发生在 RAGFlow 通过 Docker Compose 启动时，MySQL 容器因数据目录初始化不完整或已有损坏数据导致健康检查失败。优先检查并清理 ./volumes/mysql_data 目录后重启服务。

这个报错通常发生在 llama.cpp 使用模型默认的最大上下文（context）窗口初始化 KV Cache 时，因上下文设置过大导致需要分配数百 GB 内存。优先排查并把上下文长度手动设置为你实际需要的小数值。

该报错通常发生在 Dify 自托管环境使用第三方 vLLM 模型插件调用 Qwen 系列模型时，Dify Agent V2 运行时将系统消息插入到消息数组的非首位，Qwen 聊天模板严格拒绝并返回 400 错误。优先排查方式：确认使用的模型插件是否为第三方 vLLM 插件，尝试切换为内置 OpenA