Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54%

LMSYS 与蚂蚁灵 Infra 团队公开了 Ling-3.0-flash 在 4 块 Blackwell GPU 上的推理优化细节:通过投机解码和系统性延迟拆解,将单请求解码平均 TPOT 从 3.33 ms 降至 1.53 ms(降幅 54%),并在受控对比中把 DSpark 路径推至 0.78 ms。这…

LMSYS 与蚂蚁灵 Infra 团队公开了 Ling-3.0-flash 在 4 块 Blackwell GPU 上的推理优化细节:通过投机解码和系统性延迟拆解,将单请求解码平均 TPOT 从 3.33 ms 降至 1.53 ms(降幅 54%),并在受控对比中把 DSpark 路径推至 0.78 ms。这…

Anthropic 将最强的 Claude Mythos 5 模型接入 Claude Security 和企业安全伙伴的工具,让防御方优先获得前沿能力,同时限制模型被直接用于恶意攻击。官方还推出 3500 万美元开源安全基金,扩大网络安全验证计划。

总部位于伦敦的 AI 基础设施初创公司 Nscale 正寻求在美股 IPO 中募集最高 30 亿美元资金,最快可能在 9 月成行。这标志着欧洲 AI 算力供应商开始将目光投向美国资本市场,以应对大模型训练与推理带来的基础设施需求。

一项覆盖中国 2.7 万名中学生的研究显示,使用 AI 工具的学生作业成绩平均提升 18%,但在无 AI 辅助的考试中,成绩反而比不使用 AI 的同学低 20%。这说明 AI 可能在“帮助完成作业”的同时,削弱了知识的真正内化。

MIT 一项 EEG 脑电实验发现,使用大模型辅助写作的人在撤掉工具后表现反而更差,研究者称之为“认知债务”。AI 正在提升效率的同时,可能悄悄削弱人类自身的推理与判断能力。

一篇技术文章通过逆向工程,详细追踪了英伟达 RTX 4090 上一条 GPU 内存读取指令从寄存器到 DRAM 芯片的完整硬件路径。它揭示了 CUDA 开发者直觉上依赖、但英伟达从未完整公开的 L1/L2 缓存、TLB 和显存控制器协同细节,对追求极致性能的 GPU 开发者具有直接参考价值。

一项新的研究显示,学生在作业中借助 AI 工具,分数平均能提升 18%,但在不借助 AI 的闭卷考试中,成绩反而下降了 20%。这一“作业变好、能力变差”的剪刀差,直接冲击了关于 AI 辅助学习效率的主流叙事。

GitHub 将 Copilot 编程智能体搬进了 Slack 对话流,用户可以直接在聊天中 @GitHub 完成代码问题排查、任务分派和拉取请求创建。这一更新的核心是把 AI 编程从“个人工具”变成“团队协作面板”,并对 Slack 新推出的 Code 频道提供原生支持。

Daring Fireball 发文指出,Bluesky 平台上针对 AI 使用者的敌意文化,正在迫使不少专业用户回流 X(原 Twitter),这反映出不同社交平台的 AI 讨论氛围正出现明显分化。

Google 为出版商提供可嵌入网页的“优选来源”按钮,让读者在 AI 搜索、Discover 和 Google News 中优先看到自己信任的站点,以此对冲 AI 搜索摘要带来的推荐流量下滑。