标签: LLM

ValueError: Invalid query, got errors:

ValueError: Invalid query, got errors:

该报错发生在 LlamaIndex 搭配 WeaviateVectorStore 且使用独立 IndexStore(如 PostgreSQL)重建索引后执行查询时。优先排查 Weaviate 查询过滤器中的属性路径是否使用了不存在的 "id" 字段,应改为 schema 中实际存储节点 ID 的属性

Update Winget Package failure

Update Winget Package failure

该报错发生在 llama.cpp 的 GitHub Actions 自动更新 winget-pkgs 包时,主要原因是 ggml-bot-2 的 winget-pkgs 仓库 fork 与上游 microsoft/winget-pkgs 的 master 分支不同步,优先检查并同步 fork 仓库即

CUDA out of memory

CUDA out of memory

该报错发生在 vLLM 使用 FlashMLA 稀疏 FP8 混合批次解码路径时,稀疏解码内核会分配一个随 --max-num-batched-tokens 线性增长的工作区,且该工作区不受启动时内存预检约束,批次增大后触发运行时 CUDA OOM。优先排查方向是调低 --max-num-batch