RuntimeError: start (0) + length (17408) exceeds dimension size (8704)”
用户尝试用 vLLM 加载 nvidia/Qwen3.6-27B-NVFP4 （Dense 架构，混合精度 W4A16_NVFP4 + FP8），启动命令如下：
标签： LLM
[Bug]: GPT-OSS Harmony: vLLM silently returns `content: null` with `finish_reason=”stop”` when its parser ends in a non-terminal state
![[Bug]: GPT-OSS Harmony: vLLM silently returns `content: null` with `finish_reason="stop"` when its parser ends in a non-terminal state](https://www.chat-gpts.plus/wp-content/uploads/2026/07/45736-079cc018-768x403.jpg)
用户在 vLLM 中部署 GPT-OSS Harmony 模型（基于 HarmonyEncodingName.HARMONY_GPT_OSS 编码），通过 OpenAI 兼容的 API 发送请求。当模型采样输出格式错误的 assistant turn（例如省略了 ` ` 标记）时，vLLM 未能检测
Hugging Face 和 Cerebras 将 Gemma 4 引入实时语音 AI
Hugging Face 联合 Cerebras 推出了一套模块化的实时语音-语音 AI 流水线，用 Cerebras 的推理加速能力让 Google DeepMind 的 Gemma 4 大模型在对话中的延迟降至接近人类交互水平，并已部署在超过 9000 台 Reachy Mini 机器人上。
[Bug]: [ERROR][Exception]: Exceptions from Trio nursery (2 sub-exceptions) — **ERROR**: ERROR preTokenId.size[96805] must <= maxPositionEmb
![[Bug]: [ERROR][Exception]: Exceptions from Trio nursery (2 sub-exceptions) -- **ERROR**: ERROR preTokenId.size[96805] must <= maxPositionEmb](https://www.chat-gpts.plus/wp-content/uploads/2026/07/6838-0dc40aa0-768x403.jpg)
用户在 RAGFlow v0.17.2-full 版本（基于 Ubuntu 22.04）中，使用知识图谱（Knowledge Graph）功能并配置 Qwen-72B 作为 LLM 时触发此错误。执行知识图谱抽取任务后，任务失败并抛出异常。
迎战“AI制书洪流”:Libby拟推AI内容过滤器，重塑数字阅读边界
数字阅读平台OverDrive旗下应用Libby宣布将推出“AI内容控制”功能，允许用户手动过滤AI生成图书、AI旁白有声书及机器翻译作品。这一举动标志着主流数字图书馆系统首次从用户选择权角度正面回应AI泛滥带来的内容信任危机。
Eval bug: Gemma4 E4B MTP drafter crashes at slot init with fatal error in fattn.cu:110
用户在 llama-server 上加载以下模型时触发： 主模型： gemma-4-E4B-it-qat-UD-Q4_K_XL.gguf （来自 Unsloth） Draft 模型： mtp-gemma-4-E4B-it.gguf 启动参数包含 --spec-type draft-mtp --spe
Misc. bug: Web UI is broken
用户在 Arch Linux 上通过 AUR 包（llama.cpp-cuda）安装 llama.cpp，运行 llama-server 启动 Web UI 后，在 Firefox 和 Chromium 浏览器中均无法正常加载页面。报错提示 GET http://localhost:8080/too
Misc. bug: Device Lost on Intel dGPU using Vulkan backend
用户在使用 llama-bench 或 llama-cli 加载 MoE 架构模型（如 Qwen3-30B-A3B、Qwen3-Coder-30B-A3B、Qwen3-32B 等），并使用 Vulkan 后端进行推理或基准测试时触发。问题在 llama-bench 上可 100% 复现，但在 lla
演示代理也是开源的。 AetherOS — 由 Nemotron 550B 通过 NIM 提供支持的自主业务代理。它决定花什么。 Authari 决定是否可以。两个存储库，一个系统：→ https://t.co/DqAp7wZEJe（治理…
开发者 MIZIO 发布了一套名为 AetherOS 的自主业务代理系统，由英伟达 Nemotron 550B 模型通过 NIM 推理微服务驱动，并配套开源了治理组件 Authari。系统将“支出决策”与“支出审批”职责分离，并公开了两个代码仓库，展示了一种可审计、可控制的 AI 代理企业级应用范式。
ADK Go 2.0 发布：构建可靠的多智能体应用，新增基于图的工作流引擎、人工参与循环与动态编排
Google 正式发布 Agent Development Kit (ADK) 的 Go 语言 2.0 版本，核心变化是引入基于图的工作流引擎，让多智能体协作的编排、容错和人工介入成为一种原生能力。这意味着 Go 开发者可以用更接近生产环境的思路来构建复杂的 AI 应用，而非依赖脆弱的临时控制流。