Hybrid SSM/attention models (qwen35moe) leak a fixed ~126 MiB RSS per request

此问题并非真正的内存泄漏,而是 llama.cpp 的 prompt cache(提示缓存)机制在混合 SSM/注意力模型(如 qwen35moe 架构)上为每条缓存条目分配了约 126 MiB 的固定大小内存,导致 RSS 随请求次数线性增长,直到达到默认的 8192 MiB 上限。优先排查方向是
先解决问题,再了解资讯。选择你现在要完成的任务。

此问题并非真正的内存泄漏,而是 llama.cpp 的 prompt cache(提示缓存)机制在混合 SSM/注意力模型(如 qwen35moe 架构)上为每条缓存条目分配了约 126 MiB 的固定大小内存,导致 RSS 随请求次数线性增长,直到达到默认的 8192 MiB 上限。优先排查方向是

OpenAI 的 Codex 编程智能体正在从早期的“极客工具”变成大众日常工具——有人在飞机上和咖啡馆里频繁看到使用者。这条来自 X 平台的观察帖获得近 40 万次浏览,侧面印证了 AI 编程助手正经历从“黑马”到“主流”的渗透拐点。

OpenAI 正在为 AI 代理 Codex 开发“持久模式”,让代理不再执行完任务就退出,而是持续运行、自主生成后续任务并在必要时主动联系用户。这意味着 AI 从“响应式工具”向“主动型数字员工”迈出了实质性一步。

电子音乐 DJ 平台 Beatport 宣布禁止完全或大部分由 AI 生成的音乐上架销售,但允许人类主导、仅辅助使用 AI 的作品。此举反映了音乐分发渠道对 AI 生成内容的态度转变,也为创作者划出了一条新的合规线。

旧金山联邦法院裁定,五角大楼将 Anthropic 列入供应链风险黑名单的行为违法,原因是该决定涉嫌针对 Anthropic 批评政府 AI 政策的言论进行报复。这场纠纷发生在 Anthropic 计划于今年秋季 IPO 的关键节点,直接影响其商业前景。

Meta 负责印度及东南亚业务的副总裁 Sandhya Devanathan 离职加入 OpenAI,负责该区域消费者增长与企业市场。此次人事变动发生在 Meta 因内容审核与安全争议在印度频频受压之际,也显示 OpenAI 正加速布局亚太市场。

加州联邦法官裁定,美国国防部长赫格塞斯将 Anthropic 列为“供应链风险”属于非法行为,违反了宪法第一修正案。这是 Anthropic 与五角大楼围绕 AI 武器使用边界纠纷的首次胜诉,也为此前被广泛讨论的“政府滥用安全标签打击批评者”画下重要司法注脚。

Google DeepMind 正尝试用密码学方法解决 AI 基准测试的“泄题”问题——通过“双重盲测”协议,让外部评测机构无需交出测试题目、AI 公司也无需交出模型权重,就能完成对前沿大模型的可信评估。这项技术若能推广,将直接影响未来大模型的能力排名和安全性审查方式。

Nvidia 尚未发布的 DLSS 5 的“神经渲染”代码从早期测试版游戏文件中泄露,mod 作者已将其提取并强行应用在《Control》《Skyrim》《GTA V》等游戏中。这一事件提前暴露了 DLSS 5 的真实效果,也让围绕 AI 图形增强的争议进一步升温。

Vercel 宣布开源 vgpu,这是一个基于 TypeScript 和 WebGPU 的库,专门用于为 AI Agent 编写“着色器”,让开发者能在浏览器端更高效地处理 AI 相关的图形与视觉计算任务。