缓存到缓存:LLM 间的直接语义通信(2025)

Hacker News 上有人提出,如果不同大模型的 KV 缓存可以互相理解,就能让模型之间直接“传缓存”通信,省掉重复预填充和交接延迟。帖子引用了 Ramp Labs 的相关讨论,但目前公开信息显示,这仍是一个概念设想,而非已落地的产品。

Hacker News 上有人提出,如果不同大模型的 KV 缓存可以互相理解,就能让模型之间直接“传缓存”通信,省掉重复预填充和交接延迟。帖子引用了 Ramp Labs 的相关讨论,但目前公开信息显示,这仍是一个概念设想,而非已落地的产品。

一篇发表在 ICLR'26 的论文提出 Cache-to-Cache(C2C),让多个大模型不再靠输出文字互相"对话",而是直接在 KV-Cache 层面传递语义,平均准确率比文本通信高约 3.1–5.4%,延迟快约 2.5 倍。

Hacker News 上围绕“语言不可读性对 LLM 安全的影响”展开讨论,核心争议是:大模型的推理链越来越不像人类语言,这种“不可读”究竟是安全隐患,还是后训练目标的自然结果。

伦敦 AI 基础设施公司 Nscale 已提交美国 IPO 申请,其 2026 年上半年营收同比暴涨 1252% 至 1.406 亿美元,但净亏损同时扩大到 10.2 亿美元。这既是算力需求爆发的注脚,也暴露了重资产扩张的代价。

Meta 将于 9 月 23 日举行年度 Connect 大会,预计发布无摄像头 AI 眼镜、代号 "Phoenix" 的轻量混合现实头显,以及新一代 Ray-Ban 智能眼镜。这场发布会将检验 Meta 在 AI 硬件上的产品化能力,以及它能否把智能眼镜从争议中拉回主流消费市场。

荷兰初创芯片公司 Euclyd 完成 2 亿欧元 A 轮融资,三星入局投资,计划用不同于传统 GPU 的架构切入 AI 推理市场,但首款商用硬件要到 2028 年才能交付。

美国官员称,对 Palantir 旗下 Maven AI 系统的过度依赖,是今年 2 月伊朗一次导弹打击导致 123 名儿童死亡的促成因素之一。这起事件把军用 AI 的“人在回路”问题从技术伦理讨论推到了现实问责层面。

OpenAI 用自家大模型参与设计代号 Jalapeño 的自研 AI 芯片,并在首批流片回片后,让模型自动优化软件内核,把一项关键基准性能从理论峰值的 0.31% 提升到 88.94%,耗时约 40 小时。这意味芯片从流片到量产爬坡之间的软件适配时间可能被大幅压缩。

AI 虚拟演员 Tilly Norwood 首次媒体巡演翻车,在与 Piers Morgan 和演员 Tom Conti 的连线采访中突然改说中文,被质疑答非所问、疑似“故障”。这再次暴露了生成式 AI 在实时对话场景中的稳定性问题。

据 FT 报道,OpenAI 预计 2026 至 2030 年收入合计约 8400 亿美元,但同期算力支出约 8560 亿美元,累计现金消耗约 2780 亿美元。收入规模在涨,花的钱涨得更快,这是理解当前大模型竞赛成本结构的关键信号。