标签： Python

AI 资讯

[Bug]: Gemma4-31B-it deployed on vLLM cannot process images in tool message

用户在 vLLM 上部署 Gemma4-31B-it 模型，通过 OpenAI 兼容 API（ /v1/chat/completions ）发送包含图片的 tool message 请求时，服务端返回 HTTP 500 Internal Server Error。环境为 Ubuntu 24.04 +

celebrityanime
2026年 6月 21日

AI 资讯

bug(python-sdk): Streaming tool calls are missing `id` and `type` fields in generation output, causing UI to incorrectly show “not called”

用户通过 langfuse.openai.AsyncOpenAI 或同步客户端包装器执行流式（ stream=True ）ChatCompletion 请求，且模型触发工具调用时。Langfuse UI 中 Tools 选项卡下所有工具均显示 "not called"，尽管工具已被成功调用。

celebrityanime
2026年 6月 20日

AI 资讯

sse_app() ignores mount prefix, resulting in 404 from client

用户在 FastAPI 或 Starlette 应用中通过 Mount() 将 FastMCP 的 sse_app() 挂载到非根路径下（例如 Mount("/mcp", app=mcp.sse_app()) ），启动后 SSE 握手返回的 endpoint 路径缺失前缀，导致 MCP 客户端发起

celebrityanime
2026年 6月 20日

AI 资讯

Streamable_ ttp. py shows warning

用户使用 MCP Python SDK (1.13.1 版本) 运行 Streamable HTTP 服务器（基于 examples/servers/simple-streamablehttp-stateless/server.py 示例）时，遇到警告。错误发生在服务器已正常运行后，客户端出现连接断

celebrityanime
2026年 6月 20日

AI 资讯

Pytorch FutureWarning of _check_is_size

用户运行 bitsandbytes 库（例如结合 transformers、accelerate 加载量化模型）时，在标准输出或日志中反复出现 FutureWarning。该警告不影响运行结果，但会造成日志污染，同时提示将来可能移除该 API。

celebrityanime
2026年 6月 20日

AI 资讯

RuntimeError: dictionary keys changed during iteration`.

用户在 RAGFlow 中运行 GraphRAG 知识图谱生成任务，配置了实体解析（Resolution）和社区检测（Community）。任务在实体解析完成候选对合并后，合并阶段崩溃，报错 RuntimeError: dictionary keys changed during iteration

celebrityanime
2026年 6月 20日

AI 资讯

[Bug]: GLM-5（Sparse MLA / DSA 模型）无法在 sm80 GPU（A100/A800）上运行 — DeepGemm 硬依赖无 fallback

用户在运行 vLLM (latest main, commit 1391378) 加载 ZhipuAI/GLM-5-FP8 模型时触发。环境为 8x NVIDIA A800-SXM4-80GB (sm80, Ampere)，PyTorch 2.7.0+cu126，CUDA 12.6。用户通过 vll

celebrityanime
2026年 6月 20日

AI 资讯

[Intel XPU] `gemv_4bit` with NF4 has huge `bfloat16` error compared with `float16` on Intel Arc A770

用户在 Windows 11 系统（25H2 26200）的 Intel Arc A770 显卡上，使用 bitsandbytes 0.49.2 + PyTorch 2.11.0+xpu + triton-xpu 3.7.0 环境，运行 bitsandbytes.functional.gemv_4b

celebrityanime
2026年 6月 20日

AI 资讯

[Feature]: Support OpenAI frontier models (gpt-5.5 / gpt-5.4) on bedrock-mantle via the /openai/v1/responses path

用户在 LiteLLM 中调用 AWS Bedrock Mantle 上托管的 OpenAI 前沿模型（ openai.gpt-5.5 、 openai.gpt-5.4 ）时，触发如下错误。这些模型仅在 us-east-2 区域可用，且仅支持 Responses API（ /openai/v1/re

celebrityanime
2026年 6月 20日

AI 资讯

[Bug]: `redis-semantic` cache never produces semantic hits, `_get_cache_key_filter_expression` uses full request hash as RediSearch pre-filt

用户在 LiteLLM 代理中配置了 cache_params.type: redis-semantic ，期望基于语义相似性（向量距离）命中缓存。但实际上，即使两个请求的语义高度相似（余弦距离约 0.008），缓存查找仍然返回 miss，请求被转发到模型并再次写入缓存。该问题在 LiteLLM 版

celebrityanime
2026年 6月 20日