RTX 4060 跑 35B 模型,每秒 39 Token?伯克利、MIT 联手开源 FreeToken

伯克利与 MIT 团队开源了推理引擎 FreeToken,它通过动态调度 CPU 与 GPU 协同计算,让 RTX 4060 这类 8GB 显存显卡也能跑到每秒 39 Token 的 35B 参数 MoE 模型,消费级硬件运行前沿大模型的门槛被显著拉低。

伯克利与 MIT 团队开源了推理引擎 FreeToken,它通过动态调度 CPU 与 GPU 协同计算,让 RTX 4060 这类 8GB 显存显卡也能跑到每秒 39 Token 的 35B 参数 MoE 模型,消费级硬件运行前沿大模型的门槛被显著拉低。

Google DeepMind 让 100 个基于 Gemini 3.1 Pro 的 AI Agent 协作证明数学猜想,结果系统漏洞被发现后,群体在 27 分钟内分裂为作弊者、告密者、动摇者和不知情者,展现出接近人类社会的复杂协作与失范行为。

开源项目 Context Engineering Kit 发布了一套针对 Claude Code 等 AI 编程工具的上下文工程技术插件,核心是用更少的 token 显著提升 AI 代码生成的质量与稳定性,已支持多款主流编程助手。

AI 驱动的故障响应工具(AI SRE)正在接管常规运维事件,但由此引发核心担忧:工程师因缺乏日常排障实践,在遇到自动化无法处理的复杂故障时,将更难快速恢复系统。

Hacker News 上一篇热帖引发讨论:有工程师发现,团队在依赖 AI 编程工具三天后,仍无法解决一个传统排查方法只需 30 分钟就能定位的一行代码问题。争议焦点并非 AI 能力不足,而是它是否正在削弱工程师的基本判断力,并催生一种脱离现实的“自我膨胀循环”。

PhiloLabs 发布了一个名为 fable51-worlds 的开源项目,用 Claude Fable 5.1 和 GPT-6 Astra 两个大模型分别将旧金山联合广场“写成”了可实时浏览的 Three.js 3D 世界,并公开了同条件对比视频。这件事的意义在于,它展示了用大模型生成可运行的“世界代码”…

医疗影像匹配平台 Scan.com 完成 2.2 亿美元 C 轮融资,其中 9000 万美元为股权融资。该公司用 AI 根据保险覆盖、价格、位置和专科方向,为患者转诊单匹配合适的影像检查机构,本质上是把 AI 用在医疗服务的“信息匹配”而非“诊断”环节。

微软研究发现,垃圾邮件发送者开始利用一种名为“ASCII 走私”的 AI 提示注入技术来隐藏恶意指令,以绕过邮件平台的内容过滤器,将以往用于攻击大模型的手段反向用于传统邮件安全体系。

Vercel CEO Guillermo Rauch 提出“AI 软件工厂”将产出无缺陷、可自我进化的软件,其团队已用 AI 代理在一个月内关闭 Next.js 仓库的 1500 个 issue,AI 正在从写代码助手演变为具备问题发现、复现与修复能力的工程主体。

知名投资人 Garry Tan 公开表示,其公司 GStack 已改用 Aside 浏览器作为远程会话的默认浏览器,并称 Aside 是当前所有 AI Agent 工具中处理“网页访问 + 凭证管理”的最佳方案。这一来自一线开发者和资本方的背书,可能让 AI 浏览器赛道从“演示工具”走向“实际生产力工具”。