标签： LLM

该报错发生在 vLLM 开启结构化输出（structured outputs / JSON schema）并同时启用 speculative decoding（MTP）与 VLLM_ENFORCE_STRICT_TOOL_CALLING=1 时，导致 FSM（有限状态机）无法推进。优先确认 vLLM

该报错发生在 aarch64（NVIDIA Grace/GB200）平台上，使用 --moe-backend flashinfer_trtllm 启动 vLLM 引擎初始化阶段，FlashInfer TRTLLM fused-MoE autotune 在 CUDA graph 捕获期间触发非法内存访

RAGFlow 的 RAPTOR 任务没有继承你在知识库中设置的默认 Embedding 模型，而是错误地调用了 SiliconFlow 的 Embedding API，导致长文本触发 “input must have less than 512 tokens” 报错。优先检查 RAPTOR 相关配

当使用 --rope-scaling yarn --rope-scale 4 等参数试图扩展 llama-server 的上下文窗口时，llama-server 会检查模型元数据中的原始 context_length，并强制把上下文截断回训练长度（如 4096），导致长上下文请求失败。优先排查方向是