Eval bug: Instant crash (segfault) when loading models with AMD Strix Halo and Vulkan

该报错发生在 llama.cpp(含 llama-server)通过 Vulkan 后端加载 GGUF 模型时,在内存适配(-fit)或模型张量加载阶段立即触发分段错误(segfault)。首要排查方向是回退到已知可用的 cb295bf 版本,并检查 Vulkan 驱动(RADV)与 llama.c

该报错发生在 llama.cpp(含 llama-server)通过 Vulkan 后端加载 GGUF 模型时,在内存适配(-fit)或模型张量加载阶段立即触发分段错误(segfault)。首要排查方向是回退到已知可用的 cb295bf 版本,并检查 Vulkan 驱动(RADV)与 llama.c
![[Bug]: [SpecDecode] Hybrid Mamba (align) corrupts under speculative decoding when a KV connector is attached — even with zero retrieved toke](https://www.chat-gpts.plus/wp-content/uploads/2026/09/53505-3ea51de1-768x403.jpg)
该报错发生在 vLLM 使用 Mamba 混合架构模型(如 Qwen3-8B、Qwen3-27B 的 Hybrid Mamba 版本)启用投机解码(SpecDecode)并挂载 KV Connector(如 LMCacheMPConnector)时,即使检索 token 数为 0 也会出现生成内容损
![[Bug]: Failed to abort requests when killing client process.](https://www.chat-gpts.plus/wp-content/uploads/2026/09/10806-837d7c30-768x403.jpg)
该问题发生在客户端进程被强制终止后,vLLM 流式请求未及时中断并继续占用显存/算力。优先排查 FastAPI/Starlette 的 is_disconnected 检测是否失效,并考虑对该函数进行 monkey-patch 修复。

该报错通常发生在 RAGFlow 智能体画布中的 Variable Assigner(变量赋值器)节点配置了合法的数值 0 参数,或使用了 clear、remove_first、remove_last 等无需参数的操作符时。优先排查你填写的 parameter 值是否为 0,或者操作符是否确实不需要
![[Question]: Error: module 'xgboost' has no attribute 'Booster' during PDF parsing](https://www.chat-gpts.plus/wp-content/uploads/2026/09/13568-9cdfb087-768x403.jpg)
该报错通常发生在 RAGFlow 解析大 PDF 时,内部调用的 xgboost 版本与项目要求的 1.6.0 不兼容或安装损坏。优先检查并固定 xgboost 版本为 1.6.0。

这个报错通常发生在 macOS 26.3+ 系统下,使用 llama.cpp 将模型层数(-ngl > 0)卸载到 Apple GPU(Metal)时触发,表现为 llama-cli 或 llama-server 在提示词处理或长上下文生成中崩溃。优先排查系统显卡驱动与 llama.cpp 的兼容性
![[Bug]: [structured outputs] speculative decoding + `VLLM_ENFORCE_STRICT_TOOL_CALLING=1` failed to advance FSM](https://www.chat-gpts.plus/wp-content/uploads/2026/09/44006-23963f83-768x403.jpg)
该报错发生在 vLLM 开启结构化输出(structured outputs / JSON schema)并同时启用 speculative decoding(MTP)与 VLLM_ENFORCE_STRICT_TOOL_CALLING=1 时,导致 FSM(有限状态机)无法推进。优先确认 vLLM
![[Bug]: Illegal CUDA memory access in flashinfer_trtllm MoE autotune on aarch64/Grace](https://www.chat-gpts.plus/wp-content/uploads/2026/09/46861-76e7a5eb-768x403.jpg)
该报错发生在 aarch64(NVIDIA Grace/GB200)平台上,使用 --moe-backend flashinfer_trtllm 启动 vLLM 引擎初始化阶段,FlashInfer TRTLLM fused-MoE autotune 在 CUDA graph 捕获期间触发非法内存访

该问题发生在使用 FlashInfer 后端与 speculative decoding 组合时,且运行在 Ampere(如 RTX 3090)等 Pre-Hopper 架构之上。优先排查 vLLM 版本是否为已知重复 Issue #49547 的受影响版本,并建议迁移至 FlashAttentio
![[Question]: why my RAPTOR always use the wrong embedding model?](https://www.chat-gpts.plus/wp-content/uploads/2026/09/7679-06f85f40-768x403.jpg)
RAGFlow 的 RAPTOR 任务没有继承你在知识库中设置的默认 Embedding 模型,而是错误地调用了 SiliconFlow 的 Embedding API,导致长文本触发 “input must have less than 512 tokens” 报错。优先检查 RAPTOR 相关配