标签: 人工智能

Compile bug:

Compile bug:

Compile bug: 这类问题通常出现在 llama.cpp 使用 cmake 编译并执行 make install 时:启用动态后端加载( -DGGML_BACKEND_DL=ON )后,后端库 libggml-blas.so 、 libggml-cpu.so 、 libggml-cuda.s

CUDA out of memory

CUDA out of memory

这个 CUDA out of memory 出现在 vLLM 处理 Qwen3.8-Flash-Next 的 PLE 短卷积(short-conv)批量 prefill 时,混合长度请求被按 batch-max query 长度对齐填充,导致激活显存瞬时膨胀。优先排查是否命中该 padding 路径

issue: context compaction never fires during a long tool run, the request hits the context limit

issue: context compaction never fires during a long tool run, the request hits the context limit

该报错通常出现在开启上下文压缩(context compaction)后,模型在单次回复中连续执行大量工具调用(tool call)的长任务里。压缩逻辑在两次工具轮次之间按粗略字符数估算对话大小,忽略了提供方每轮返回的真实 token 数,于是阈值永远达不到,最终请求撞上上下文上限。优先排查压缩阈值