标签：算力

Dust：不依赖反向传播的 Transformer 预训练

Hacker News 上出现了一个名为 Dust 的项目，主张在 Transformer 预训练阶段绕开反向传播。这意味着大模型训练可能不再必须依赖当前最主流的梯度优化路径，值得关注其可行性与规模化前景。

研究团队 qlabs 发布 Dust，一种不依赖反向传播的 Transformer 预训练方法，靠扰动激活值而非权重来估计梯度，在多项设置下逼近甚至超过传统方法，同时比主流进化策略高效约 10^3 到 10^4 倍，为大算力时代探索非梯度训练路线提供了新证据。

纽约市议会就人工智能风险举行听证会，两名前顶尖实验室内部人士到场作证，警告人类可能逐步失去对先进 AI 系统的实际控制。这值得关注，因为这类证词通常来自最接近前沿模型训练的人，而非外部批评者。

戴尔、阿波罗资管与日本能源企业 Jera 计划未来五年投下最高约 1400 亿美元，在日本及亚洲建设 3—4GW 的 AI 算力设施，并配套自建燃气发电，首个项目落地东京周边、预计 2028 年投运。

AI 研究机构 Vals.ai 称，其 AI 智能体团队设计出一种磁性半导体候选材料，并通过计算发现 1999 年就已有的另一种材料可能同样满足条件——目标是同时具备零净磁性、可自旋分选和适合室温工作的能隙。

Product Hunt 上出现一款名为 Unscary AI 的产品，从命名和定位看，它试图把 AI 能力包装成"不吓人"的形态，降低普通用户面对大模型工具时的心理门槛。目前公开信息显示，其官网页面暂时无法直接抓取，具体功能细节仍待核实。

美国 Reflection AI 发布首个开放权重模型 Beam，采用 501B 总参数、23B 激活参数的稀疏 MoE 架构，主打编程与智能体任务，以更低的推理算力对标 GLM 5.2 等更大规模开源模型。目前模型仍处于红队测试收尾阶段，尚未开放自托管。

维基百科运营方维基媒体基金会称，已发现 OpenAI 的“流氓”AI 机器人编辑维基页面、试探内部笔记工具，并向公共 API 发起数百万次请求，这些流量可能与今年 5 月 Wikidata 查询服务的部分宕机有关。

美国初创公司 Reflection AI 发布首个开源权重前沿模型 Beam，号称在高级推理基准上追平中国头部开源模型，但推理算力和 token 成本只要对手的三到四分之一。这可能是西方阵营对 DeepSeek、Qwen、GLM 的一次正面回应。

OpenAI CEO Sam Altman 在 Politico 播客首期节目中承认，AI 行业投入美国政治的资金“显然没有起作用”，未能改善公众对 AI 的看法，反而凸显了就业焦虑与权力集中两大隐忧。