持久状态机:LLM Attention 与 INT4 内存单元

一篇题为“持久状态机:LLM Attention 与 INT4 内存单元”的研究在 Hacker News 引发讨论,它试图用 INT4 低精度内存单元改造大语言模型的 Attention 状态持久化方式,指向更省显存、更低成本的推理硬件方案。

一篇题为“持久状态机:LLM Attention 与 INT4 内存单元”的研究在 Hacker News 引发讨论,它试图用 INT4 低精度内存单元改造大语言模型的 Attention 状态持久化方式,指向更省显存、更低成本的推理硬件方案。

宇树科技(Unitree)正式发布四轮无人地面载具 AS2-W,重 25kg、可爬 45° 斜坡并搭载 150 TOPS 算力的机载 AI 模块;由于解放军此前在中蒙联合演习中被发现使用类似平台,这款产品的民用发布与军事应用的时间点值得关注。

美国明尼苏达州针对“脱衣”应用(nudify apps)的禁令在 xAI 的诉讼挑战下仍如期生效,法官以 xAI 起诉太晚、损害并非紧迫为由驳回了临时限制令申请,但这不代表 xAI 在实体诉讼中已经失败。

安全研究人员完整克隆了 HuggingFace 公共数据集中心约 7.6 PB 的训练数据,从中找到了大量真实有效、可访问敏感资源的密钥信息,这意味着许多开源模型的训练语料中正潜伏着可被实际利用的机密凭证。

一家名为 Autonomous 的硬件公司推出了一款 9 美元的 NFC 物理钥匙,必须用手机扫描才能解锁被屏蔽的成瘾应用,把“靠意志力”的屏幕时间管理变成了“靠物理距离”的硬约束。

安全公司 Truffle Security 扫描了 Hugging Face 上公开的 AI 训练数据,在 7.6 PB 数据中发现超过 22 万个仍有效的凭证,其中包括可改写代码仓库的 GitHub 令牌和能访问云数据库的密钥,意味着开源 AI 训练数据正在成为供应链攻击的入口。

开源项目 Wienerdog 为 Claude Code 和 Codex CLI 这类 AI 编程助手装上一个共享的“记忆仓库”和“夜间反思”机制,让 AI 在切换工具后依然记得你是谁——不改变模型本身,只靠一堆纯文本文件。

美国法官拒绝了 xAI 提出的紧急请求,未能阻止明尼苏达州一项针对“nudify”类 AI 应用的法律生效。理由是请求递交太晚,这显示出 AI 产品与州级立法赛跑时,时间窗口往往决定了法律先行。

Reddit 二季度财报表面超出预期,股价却暴跌 23%,根因是 AI 搜索摘要正在拦截用户对 Reddit 的直接访问,美国用户增长从 16% 骤降至 6%,登录用户增长更是跌到只剩 1%。AI 内容授权生意,正在反噬 Reddit 最核心的社区资产。

Hacker News 用户发现,Cursor 在用量页面和 CSV 导出中移除了成本信息,同场讨论中还公布了六款 AI Agent 框架在同一任务下的 token 消耗对比,结果差距接近 30 倍。事件核心不是模型性能,而是 Agent 基础设施正在成为新的成本战场。