[RFC]: Streaming Derender for Disaggregated Serving
![[RFC]: Streaming Derender for Disaggregated Serving](https://www.chat-gpts.plus/wp-content/uploads/2026/10/47161-ea55248b-768x403.jpg)
这个 RFC 讨论的是“流式 derender”(streaming derender)在 disaggregated serving 里的实现设计,不是某个已报错的运行时故障。如果你的场景是交互式 P/D 服务(例如 llm-d 按 token 返回给终端客户端),优先排查两件事:一是 deren
![[RFC]: Streaming Derender for Disaggregated Serving](https://www.chat-gpts.plus/wp-content/uploads/2026/10/47161-ea55248b-768x403.jpg)
这个 RFC 讨论的是“流式 derender”(streaming derender)在 disaggregated serving 里的实现设计,不是某个已报错的运行时故障。如果你的场景是交互式 P/D 服务(例如 llm-d 按 token 返回给终端客户端),优先排查两件事:一是 deren
![[Feature / Question]:: /v1/systemone rejects image inputs on standard multimodal VLMs with "this model does not take image inputs"](https://www.chat-gpts.plus/wp-content/uploads/2026/10/62804-096dcaf8-768x403.jpg)
在 vLLM 的 /v1/systemone 端点上提交带 images 的多模态请求时,标准 VLM(如 Qwen 系列多模态权重或 NVFP4 量化变体)会立即返回 HTTP 400;该问题已由 PR #62181 修复,允许 NextTokenStrategy 在 /v1/systemone

arXiv 新论文提出 ARATest,把 AI 智能体产出的科研主张从自然语言转成可执行属性测试,在 33 个研究工件、243 条主张上完成初步验证。它试图解决“主张产出快、人工核查跟不上”的问题。

arXiv 上一项新论文审计了 LLM Agent 评测中的轨迹级行为检测器,发现“最终答案正确”“是否复检”“故障传播”等自动标签与执行轨迹实际内容存在系统性分歧,呼吁评测结果附带可核查的轨迹证据。

arXiv 上的一篇新论文提出“事件世界”概念,用外交桌游和 Polymarket 真实交易构建基准,检验大模型能否从事件日志预测多主体环境的未来。核心发现是:当其他参与者的行为被省略时,模型预测会明显失准。

arXiv 上一篇新论文提出 MemPABench,专门评测个人智能体能否记住并执行用户的交互偏好,如何时澄清、何时确认、何时直接行动。它暴露出的问题是:现有记忆系统在偏好选择上提升有限。

arXiv 上一篇预印本论文发现,把失败走法和报错写进对话记录后,小型 LLM 在某些游戏中反而更可能重走刚失败的那一步;受影响的概率随模型和失败类型而不同,目前结论只基于摘要所述实验。

一篇新上传的 arXiv 论文首次对 MCP、A2A、ACP 三种 AI Agent 通信协议的握手过程做了分阶段实测,发现往返次数主导握手成本,而 LLM 读取对方能力元数据还会额外消耗大量 token。

在 Windows VS2022 上用 cl 编译 llama.cpp 后,加载 ggml-model-q4_0.bin 量化模型会输出乱码或无意义 token;优先怀疑当时的量化代码只覆盖 ARM NEON,x86 上尚未支持,而不是推理参数或 prompt 的问题。

该报错通常出现在 llama.cpp 使用 peg-gemma4 聊天模板运行 Gemma 4 thinking 模型、且单轮对话中连续触发多次工具调用时,reasoning 尾部会逐渐累积换行和乱码,最终可能导致解析失败甚至模型返回 500。优先排查 chat template 中 thinkin