面向突发 LLM 推理的预测推测式 KV 复制
一项针对 LLM 推理系统的新优化思路——用“预测+推测”的方式提前复制 KV 缓存，目标是降低突发流量下推理服务的延迟抖动，属于 AI 基础设施层的技术探索。
标签： 算力
92% 工程师都在用 AI 后，Uber 开始给 AI “限额”了
Uber 在 92% 工程师采用 AI 编程后，AI 相关成本六个月增长六倍、单人月成本一度达 2,000 美元，已开始将每名开发者的 AI 使用额度控制在 1,500 美元以内，并转向更精细化的 AI 投入产出评估。
【2026人工智能產品應用博覽會啟幕】7月30日，2026人工智能產品應用博覽會在江蘇蘇州開幕。本屆智博會以“一元復始 萬象AI”為主題，深度對接世界人工智能大會（WAIC），聚焦新型工業化、大模型與AI算力產業鏈、創業生態與Token經濟三大維度，以“超級個體·智鏈雙城”為框架，推動蘇州深厚的工業化場景與上海前沿的創新資源雙向導入，打造集賽事、展覽、會議、新媒體、新消費於一體的國際化、專業化、多元化交流平台。
2026年7月30日，人工智能产品应用博览会（智博会）在江苏苏州开幕，主题为“一元复始 万象AI”。这场展会的看点不在发布某款具体产品，而在明确提出“苏州工业场景+上海创新资源”双城协同的模式，并首次将Token经济列为独立议题——这是AI行业从技术展示转向商业化落地的一个信号。
将药物设计时间从数年压缩到小时 过去需要数月甚至数年才能完成的药物研发，现在只需要 24 小时的计算加上几周的实验室测试，以后我们可能可以像定制西服一样定制我们每个人所需的药物。 在最近的一次深度访谈中，Chai 的联合创始人 ，前openai员工Josh Meyer 分享了他们的最新进展。 Josh Meyer 很早就意识到，既然大语言模型能够理解英语和法语，它们也理应能理解*真正的自然语言—-DNA 和蛋白质序列。这促使他投身于…
前 OpenAI 员工 Josh Meyer 创立的 AI 制药公司 Chai，正把药物设计周期从数年压缩到 24 小时计算加几周实验室验证，最新模型 Chai 3 的抗体设计成功率已从一年前的约 0.1% 提升到接近 30%。这不是实验室里的概念演示，而是已经通过礼来压力测试、正在进入真实药物研发管线的技术…
Sources: OpenAI demoed a new “Astra” AI model family to US policymakers and regulators this week, touting its improved abilities to complete long-running tasks (The Information)
据 The Information 报道，OpenAI 本周向美国政策制定者与监管机构闭门演示了新一代 “Astra” 模型家族，重点展示其完成长时段复杂任务的能力。这次演示的意义在于，AI 竞争正从“对话能力”转向“代理式执行”，且 OpenAI 正主动将监管沟通前置。
面向突发 LLM 推理的预测推测式 KV 复制
JWLabs 团队在 Hacker News 发布了一项面向突发式 LLM 推理的优化技术，通过“预测推测式 KV 复制”提前准备缓存，试图在流量高峰到来时降低推理延迟。这为 AI 推理服务降低成本提供了新思路。
人工智能的推理是否因错误的理由而正确？
围绕 AI“推理能力”的争论进入了一个矛盾阶段：大型推理模型（LRM）既在数学竞赛和科研问题上拿出惊人成绩，又被研究发现大量解题过程依赖表面捷径而非真正推理。结论是：AI 推理确实有效，但“有效不等于可解释”，其底层机制至今没有科学定论。
This hilarious robot collapse reminds me that robot development is nowhere near where it needs to be, but a huge breakthrough from DeepMind could change all that
一台搭载高通 AI 芯片的人形机器人在发布会上当众倒地，而搭载 DeepMind Gemini Robotics 2 的 Apollo 机器人却能自主完成从未训练过的系垃圾袋任务。两段视频对比揭示了人形机器人的真实差距，也指向可行的技术路线：用统一“大脑”替代分散控制与预编程。
苹果将在AI泡沫破裂时‘看着一切燃烧’
AI 批评者 Ed Zitron 在接受 MacRumors 采访时提出，如果当前由巨额算力投资支撑的 AI 泡沫破裂，苹果可能会成为受影响最小的科技巨头，甚至选择在行业动荡期“袖手旁观”，通过低价收购或维持现状来坐享其成。
苹果将在AI泡沫破裂时‘看着一切燃烧’
Hacker News 上关于“AI 泡沫何时破裂”的讨论，意外地将苹果推到了中心：相比微软、谷歌和英伟达，苹果没有把赌注全押在云端 AI 上，而是凭借自研芯片和统一内存架构，在本地运行大模型这条路上握有独特筹码。若 AI 资本热潮退潮，苹果可能反而是受伤最轻、甚至能“看着一切燃烧”的那个。