FlatCake 论文:KV 缓存扁平化存储,TTFT 最高提速 2.4 倍

一篇新论文提出 FlatCake,把主机 DRAM 与 NVMe SSD 视为同一地址空间下的对等存储介质来存放 LLM 的 KV 缓存,在特定负载回放中把首 token 延迟压到 Mooncake 的约六成。它值得关注,是因为长会话 Agent 场景正在把缓存容量和 SSD 读取推到关键路径上。

一篇新论文提出 FlatCake,把主机 DRAM 与 NVMe SSD 视为同一地址空间下的对等存储介质来存放 LLM 的 KV 缓存,在特定负载回放中把首 token 延迟压到 Mooncake 的约六成。它值得关注,是因为长会话 Agent 场景正在把缓存容量和 SSD 读取推到关键路径上。
![[Bug]: GLM-5.x (DSA) under pipeline parallelism: reuse layers at a stage start read stale top-k indices](https://www.chat-gpts.plus/wp-content/uploads/2026/11/63170-1a708cbf-768x403.jpg)
这个报错通常出现在用 GLM-5.x(GlmMoeDsaForCausalLM / DSA 稀疏注意力)并开启 pipeline parallelism( --pipeline-parallel-size > 1 )时:某个 PP stage 的第一层若是“复用 top-k 索引”的层而非 inde

开源项目 AiSOC 把安全告警接入、规则检测、LLM 代理分诊和人工审批串成一条可审计流水线,不填 API Key 也能在本机跑起来,并附带供 Claude、Cursor、Continue 调用的 MCP 服务器。

开发者 Nolan Lawson 用 AI 代理分别以多个主流 JavaScript 框架构建同一个宝可梦应用,比较开发耗时、token 消耗、代码量及 Lighthouse 性能与无障碍得分,试图给“哪个框架更适合 AI 写前端”这类流行说法补上可核验数据。
![[Bug]: Dataset settings Save silently fails on API-created General datasets with null table_column_* fields](https://www.chat-gpts.plus/wp-content/uploads/2026/11/20893-385c5add-768x403.jpg)
这个问题通常出现在“通过 HTTP API 创建的空 General 数据集(naive 分块)”上:返回的 parser_config 里 table_column_mode、table_column_roles、table_column_names 为 null,进入 Dataset > Con

Grafana Labs 提出把可靠性工程中的评估、SLO 和错误预算用到 AI 智能体上,让幻觉、任务完成度、毒性和成本变成可监控的指标。这提供了一个治理思路,但测量的准确性仍是最大前提。
![[ROCm][AMD] Kimi-K3 Gap and Roadmap Tracking](https://www.chat-gpts.plus/wp-content/uploads/2026/11/50682-3200efb1-768x403.jpg)
这不是一个单一报错,而是 Kimi-K3 在 ROCm/AMD 上做 Day 0 支持时的特性缺口与性能跟踪条目,常见于 MI355X/MI350(gfx950)与 MI300(gfx942)上的 vLLM 部署场景。优先排查方向是 fp8 kv-cache-dtype、AITER/Triton 版

arXiv 上的一篇新论文提出 GAAC,一种面向个人设备的无损 KV Cache 压缩与推理系统;它在不改变 KV 数值的前提下压缩缓存,并在 NVIDIA DGX Spark 与 Apple M4 上测到注意力与解码提速。
![[Question]: SeekDB 1.4 removed support for `utf8mb4_unicode_ci`](https://www.chat-gpts.plus/wp-content/uploads/2026/10/21181-6b8f1390-768x403.jpg)
该报错通常出现在 RAGFlow 使用 DOC_ENGINE=seekdb 并创建数据集时,SeekDB 引擎在创建租户 chunk 表阶段执行建表 DDL 失败。优先排查 SeekDB 版本是否为 1.4.0,以及其是否已恢复对 utf8mb4_unicode_ci 的支持。
![[Bug]: `WorkflowIdleEvent` is emitted while events sent from outside the run with `handler.ctx.send_event` are still undelivered, so a conte](https://www.chat-gpts.plus/wp-content/uploads/2026/10/23839-0cb4ec01-768x403.jpg)
这通常发生在多个步骤同时等待人工输入、并在同一批里通过 handler.ctx.send_event 从运行外部回传事件的场景:工作流会在外部事件尚未被取走前误发 WorkflowIdleEvent ,此时保存的上下文会丢失该事件。优先排查空闲判定(idle check)是否只覆盖了运行内部发出的事