Cache config max_cache_length only honored for Quantized Cache
用户在 HuggingFace Transformers 库的 generate() 调用中，使用 cache_implementation="static" 静态缓存路径，并希望通过 cache_config={"max_cache_len": N} 控制缓存的最大长度。但实际观察发现， cach
标签： 人工智能
# Cache lazy initialization leads to spurious recompilation with chunked prefill
用户在 Hugging Face Transformers 中使用 generate() 进行文本生成，启用了 torch.compile 和 chunked prefill（通过设置 generation_config.prefill_chunk_size ），并使用静态缓存（Static Cac
Stuck at load checkpoint for the first time, every time it is opened on linux.
用户在 Arch Linux（Cachy OS）上使用 AMD 7800XT GPU 运行 ComfyUI，每次打开软件首次生成图像时都卡在加载 checkpoint 步骤，且重启后问题重复。用户已正确安装 PyTorch ROCm 版本，创建 venv 并安装 requirements.txt。
[Bug]: [ERROR][Exception]: Exceptions from Trio nursery
![[Bug]: [ERROR][Exception]: Exceptions from Trio nursery](https://www.chat-gpts.plus/wp-content/uploads/2026/07/12545-a5895cec-768x403.jpg)
用户使用 RAGFlow v0.22.1，上传包含 10,382 个文件的知识库进行大规模解析，并点击生成知识图谱（Knowledge Graph）。在嵌入节点处理到约 1809/1894 步时，服务返回 500 错误，解析任务中断且无法通过界面按钮继续。
ModuleNotFoundError: No module named ‘comfy_aimdo.vram_buffer’
用户在 Ubuntu Linux（AMD GPU）系统上启动 ComfyUI 时触发。ComfyUI 在初始化过程中尝试导入 `comfy_aimdo.vram_buffer`，但该模块因缺少 NVIDIA CUDA 运行时库（`libcuda.so.1`）而无法加载，最终导致 ComfyUI 启动
Eval bug: qwen35 and qwen35moe graph split issues (Severe PP impact, crashes)
用户在 llama.cpp 最新 master 分支（commit 418dea39cea85d3496c8b04a118c3b17f3940ad8 ）下，使用 4 块 CUDA 设备 （通过 PCI-E 3.0 x1 连接）加载 Qwen3.5 27B / Qwen3.5-397B-A17B 等
Eval bug: Gemma 4 with-sm Tensor crashes post load on a request with NVlink Turing cards
用户在使用 llama-cli 或 llama-server 通过 -sm tensor 参数加载 Gemma 4 31B 模型（Unsloth Q5_K_XL 量化）时，模型加载成功，但发送少量请求（通常第一个请求成功，第二个请求崩溃）后出现 CUDA 错误并硬崩溃。该问题在单次 llama-cl
Eval bug: Tensor parallelism crashes when combined with `-ncmoe` with Qwen 3.5 397B.
用户在 llama.cpp（b9672 版本）中，使用 `llama-completion` 或 `llama-cli` 工具，通过 `--sm tensor` 启用张量并行，指定 `--device ROCm1,ROCm3`（AMD GPU），配合 `-ncmoe 58` 参数加载 Qwen 3.
[Bug]: GLM tool-call streaming final chunks repeat metadata and combine arguments with finish_reason
![[Bug]: GLM tool-call streaming final chunks repeat metadata and combine arguments with finish_reason](https://www.chat-gpts.plus/wp-content/uploads/2026/07/44098-762f8462-768x403.jpg)
用户在 vLLM main 分支（commit 6bdabbad5 / 023808c23 ）上，通过 OpenAIServingChat 服务层，使用 GLM 工具解析器（如 glm45 / glm47 ）进行工具调用的流式输出时触发。问题不依赖具体 GLM 模型权重加载，可通过 unit tes
RuntimeError: kv must have shape (num_blocks, page_block_size, h_kv, bytes_per_token)
用户在使用 vLLM 0.23.1rc1.dev788+gfa4321de3 部署 deepseek-ai/DeepSeek-V4-Flash-DSpark 模型时，启用了 DSpark 推测解码（ --spec-method dspark --spec-tokens 5 ），在 KV-cache