标签： LLM

该报错通常出现在 vLLM 启动阶段，使用 FlashInfer 作为 attention backend 且开启 CUDA graph capture 时，FlashInfer workspace buffer 不够用导致 aligned_alloc 失败。优先排查是否命中 FlashInfer

在 macOS（Apple Silicon）上以 BUILD_SHARED_LIBS=OFF 编译 llama.cpp 时， ggml-rpc 变成静态归档， librdma 的符号不会随静态链接传递，导致链接阶段出现大量 _ibv_* undefined symbols；优先排查 RPC 后端的

这个报错通常出现在同一台机器上同时运行两个 llama-server 进程、每个进程各绑定一块 GPU 的场景；第二个副本（GPU1 上那个）会在 CUDA graph 复用后触发 ggml-cuda.cu:107: CUDA error 并直接退出。优先排查并关闭 CUDA graph，即在启动前