Eval bug: InternVL3 vision model produces weird outputs on images with text
用户通过 llama-server 加载 InternVL3-14B-UD-Q4_K_XL.gguf 及对应的 mmproj-InternVL3-14B-BF16.gguf 视觉项目文件，处理一张含有文字的图片并给出描述。输出结果与原始图片内容严重不符（看不清文字、丢失细节），而在 OpenRout
标签： Python
LlamaTokenizer in v5 overrides tokenizer.json’s ByteLevel pre-tokenizer with Metaspace, silently breaks DeepSeek V3/R1 family
使用 transformers v5 的 AutoTokenizer.from_pretrained() 加载任何 tokenizer_config.json 中设置了 "tokenizer_class": "LlamaTokenizerFast" 或 "LlamaTokenizer" 的模型。已确
MLX runner: KV cache not released between requests causes memory accumulation and severe tgTPS collapse (v0.30.8)
用户在 Apple M4 Max（64 GB 统一内存）macOS 系统上，使用 Ollama v0.30.8 运行 MLX 模型 qwen3.6:35b-mlx （上下文窗口 262144）。通过 bench.py 脚本按递增 prompt 长度（1024, 4096, 8192, 16384,
ModuleNotFoundError: No module named ‘tqdm’
用户在 Kohya SS（版本 v21.8.3 及多个其他版本）中运行 BLIP captioning 功能时，设置 num_beams 大于 1（如 12）并启用 --beam_search ，导致脚本崩溃并返回 ModuleNotFoundError: No module named 'tqdm
bug: get_langchain_prompt(): empty braces {} are not escaped and break LangChain templates
使用 Langfuse Python SDK（v4.9.0）的 BasePromptClient._get_langchain_prompt_string() 方法处理字符串时触发。常见于自定义提示模板中需要描述 JSON 字段可选为字典（如 can be empty {} ）的场景，调用方通常为
[Bug]: prisma cannot install in isolated environment
![[Bug]: prisma cannot install in isolated environment](https://www.chat-gpts.plus/wp-content/uploads/2026/07/4915-76b08ba2-768x403.jpg)
用户在 Docker 容器中运行 LiteLLM（litellm:v1.42.3-stable），容器没有互联网访问权限，且与 postgres:16.3 数据库容器配合使用。问题在 v1.42.0-stable 及更高版本中出现，v1.41.2-stable 版本不受影响。
RuntimeError: hostbuf_file_reader_read failed“`
用户在 ComfyUI 中运行 Ideogram 工作流，模型使用 aimdo 0.4.8，显卡为 RTX 3090。禁用所有自定义节点后问题依然存在。用户尝试使用 --disable-dynamic-vram 参数但导致 Python 崩溃。
bug: OTel ingestion serializes int64 as protobufjs Long internals after protobufjs 7.4 → 7.5 upgrade
用户运行 Langfuse 自托管服务（版本 ≥ 3.169.0），配合 OpenTelemetry SDK（如 Java SDK 1.25.0 或 Python SDK 3.12.0）通过 OTLP/protobuf 协议（HTTP 或 gRPC）发送 trace 数据。配置了服务端 ingest
[Bug]: Bedrock prompt caching strips `ttl` for Claude Opus 4.8 (1h cache silently downgraded to 5m)
![[Bug]: Bedrock prompt caching strips `ttl` for Claude Opus 4.8 (1h cache silently downgraded to 5m)](https://www.chat-gpts.plus/wp-content/uploads/2026/07/31359-ba7c9654-768x403.jpg)
用户在 LiteLLM Proxy 中使用 Bedrock API 调用 anthropic.claude-opus-4-8 （Claude Opus 4.8）模型，并显式设置 cache_control.ttl 为 "1h"（1 小时）。实际运行时，Bedrock prompt caching 的
Eval bug: Qwen 3 VL provides incorrect bounding boxes on sizes that are not 1000x1000px / non-square
用户运行 llama-server ，加载 Qwen 3 VL (Qwen3-VL-30B-A3B-Instruct) 的 GGUF 模型和 mmproj 权重文件，通过 API 上传图片请求目标检测（bounding box），并期望返回的坐标（ bbox_2d ）直接适用于原始图像，但格式上存在