标签: Gemini

论下一代 Transformer:你需要的不是 Loop

论下一代 Transformer:你需要的不是 Loop

一篇在 Hacker News 上热传的技术博客对当下流行的"Loop Transformer"思路提出质疑,作者认为简单套用同一组 Transformer 权重循环两次并不能解决下一代模型的核心问题,真正值得关注的是对 Context 做细粒度管理的递归式结构。

Sources: OpenAI asked members of Congress for guidance on whether orchestrating an industry-wide slowdown in AI development would be legal under antitrust law (Maxwell Zeff/Wired)

Sources: OpenAI asked members of Congress for guidance on whether orchestrating an industry-wide slowdown in AI development would be legal under antitrust law (Maxwell Zeff/Wired)

据 Wired 记者 Maxwell Zeff 报道,OpenAI 曾向美国国会议员询问:由行业主要玩家协调、主动放缓 AI 开发速度,是否会触犯反垄断法。这意味着头部公司开始把“减速”从技术安全议题,当作需要法律预案的商业与政策议题来处理。