标签： LLM

用户在 ThingsLLM Desktop v1.15.0（Windows）中，使用本地 llama.cpp 提供的视觉模型（如 Qwen3-VL、Llama 3.2 Vision 等多模态模型），启用 Magic Echo 并开启 On-Screen Awareness 功能时触发问题。虽然该模型

用户在 RAGFlow 中解析 PDF 文档时触发该错误，使用了“Presentation”切片方法。即使 GPU 显存高达 48G，解析过程仍会失败。系统日志中出现 ONNXRuntimeError 和内存分配失败异常。

用户在使用 llama-server 的 router 模式启动，并通过 pi --resume 恢复之前由编码代理（如 pi agent 0.80.3）填充的长时间会话时触发。问题在 AMD/Vulkan 和 Nvidia/CUDA 架构上均被确认重现。

该问题出现在 llama-server 处理 chat completion 请求时，对话历史包含大量短小的 user/assistant 消息对（例如 140+ 条）。用户显式指定了 batch 大小（ -b 2048 -ub 2048 或 -b 4096 -ub 4096 ），但日志显示 pro

用户在 Windows 11 上使用预编译的 llama.cpp Vulkan 或 HIP 版本（llama-b9754-bin-win-vulkan-x64 和 llama-b9754-bin-win-hip-radeon-x64），通过 llama-server 加载模型并启用 --mlock

用户在 vLLM 项目的 GitHub PR 中触发 docker-build-image CI 步骤（通过 Buildkite 运行）时，镜像构建成功但推送到 ECR 仓库失败。该问题在 GitHub Issue #48065 提交时影响所有 PR 的 CI 流程。

用户在 RAGFlow 0.20.0 版本中配置相同的工作流设置，使用 Gemini 模型时日志显示无数据，而使用 4o-mini 模型时日志正常输出数据。用户已在 GitHub Issue 中报告此问题，并后来自行解决。