[Bug] V1 InputBatch condense can leak stale allowed_token_ids mask to recycled row
![[Bug] V1 InputBatch condense can leak stale allowed_token_ids mask to recycled row](https://www.chat-gpts.plus/wp-content/uploads/2026/09/43894-a55fb008-768x403.jpg)
该报错通常出现在 vLLM V1 引擎开启动态批处理、同时混用带 allowed_token_ids 受限请求与无限制请求时, InputBatch.condense() 会把已释放行的 stale allowed_token_ids_mask_cpu_tensor 残留下来,并被后续无限制请求复用
![[Bug] V1 InputBatch condense can leak stale allowed_token_ids mask to recycled row](https://www.chat-gpts.plus/wp-content/uploads/2026/09/43894-a55fb008-768x403.jpg)
该报错通常出现在 vLLM V1 引擎开启动态批处理、同时混用带 allowed_token_ids 受限请求与无限制请求时, InputBatch.condense() 会把已释放行的 stale allowed_token_ids_mask_cpu_tensor 残留下来,并被后续无限制请求复用

该问题通常出现在客户端把包含 tool 角色的消息历史(例如 system → user → assistant → tool → assistant 的连续对话)提交给 Ollama 时,Ollama 返回 invalid request 并拒绝 tool 角色,而同一 GGUF 模型在 llam

XTransfer 高级技术总监陈忻将在 10 月 22 日—24 日举办的 QCon 上海站分享 B2B 跨境支付风控的 AI 工程实践,提出“可控、可测、可进化”的三层 AI 工程飞轮,把 AI 从辅助工具推进到可审核、可观测、可归因的生产系统。

KDE 社区尝试为 LLM 辅助贡献制定使用规范,讨论却因大量非 KDE 成员涌入争吵 AI 伦理而被迫撤下;GNOME 开发者 Jordan Petridis 则提出更严格的草案,主张禁止 LLM 生成或修改提交到 GNOME 的任何内容。这场争议反映出开源项目正被迫为 AI 贡献划定边界。

这个报错通常出现在 llama.cpp 使用 Vulkan 后端启动 llama-server 加载模型时,设备显存不足以分配指定大小的 buffer。本次 Issue 中,根因不是模型本身,而是默认 slot 数量导致自动扩展上下文,进而把峰值显存需求推高。优先检查 llama-server 的
![[Bug]: Kimi-K3-NVFP4 on 8xB300 produces degenerate, incoherent output in the reasoning channel on v0.27.0](https://www.chat-gpts.plus/wp-content/uploads/2026/09/51798-e8ba3af0-768x403.jpg)
该问题通常出现在 8x B300/B200 节点上用 vLLM v0.27.0(含 v0.27.1)serving Kimi-K3-NVFP4、GLM-5.2-FP8 等大模型时,进程不崩溃、latency 正常,但 reasoning channel 输出退化成重复无意义 token。优先排查点在

安全公司 F-Secure 的研究员用 Claude 模型自己搭了一个 AI 购物助手,并放进仿真的多卖家商城测试。结果显示,评论区里一句恶意指令就可能让助手乱下单或泄露用户信息,而未来商家出于成本考虑,大概率会用便宜、防护更弱的模型,风险会被放大。
![[Bug] /v1/internal/model/load silently ignores `args` (loader flags like ctx-size, cache-type) — endpoint returns OK but model loads with UI](https://www.chat-gpts.plus/wp-content/uploads/2026/09/7577-f376545a-768x403.jpg)
调用 TextGen WebUI 的 POST /v1/internal/model/load 时,如果 args 里用了连字符键名(如 ctx-size、cache-type、gpu-layers),这些值会被静默丢弃,接口仍返回 HTTP 200 与 "OK",模型实际按 UI 或已保存配置的默

一位商业博主用"养一只小猫"的比喻,把 LLM、Prompt、RAG、MCP、Agent 等 20 个常见 AI 名词串成一个完整故事。它的价值不在概念本身,而在于揭示了这些名词其实是同一套智能体系统里环环相扣的组件。

该报错通常出现在 llama.cpp Hexagon(HTP/HVX)后端加载并执行大模型时,DMA 队列在 stride overflow 回退路径中提前 flush,破坏了调用方对 push/pop 数量及 dst 指针的预期,进而让 DSP 崩溃。优先确认是否运行在 HVX < 75 的 He