AI 末日争论愈演愈烈
Anthropic 研究员 Jacob Coxon 辞职并警告 AI 巨头正在"拿我们的生命赌博"，随后 Anthropic CEO Dario Amodei 发文呼吁放缓开发节奏，Sam Altman 与 Elon Musk 罕见公开支持。这标志着 AI 安全争论从学术圈和社交媒体第一次扩散到了头部公司 C…
标签： Claude
Anthropic and OpenAI are already free to “pace the frontier” and should do so for business reasons, instead of first demanding a preferred regulatory framework (David Sacks/@davidsacks)
David Sacks 在 Techmeme 收录的评论中提出，Anthropic 和 OpenAI 其实已经有能力自主“控制前沿节奏”（pace the frontier），与其先去争取一套自己偏好的监管框架，不如出于商业理由主动放慢或调整前沿模型的发布速度。
AI 模型不杀人，人杀人
Anthropic 研究员 Jacob Coxon 于 2026 年 9 月 7 日公开辞职，称 AI "可能在这个十年结束前杀死所有人"；其同事 Evan Hubinger 回应称"我们确实认真相信 AI 可能杀死全人类"，并给出十年内超过 10% 的主观概率。但这场争论真正的问题不是模型会不会杀人，而是谁…
Anthropic CEO 呼吁行业放慢脚步，Sam Altman 表示认同
Anthropic CEO Dario Amodei 发布长文，提出“为前沿发展定速”的三点计划，呼吁行业主动放慢 AI 开发节奏；OpenAI CEO Sam Altman 公开表示认同。这是两家头部大模型公司少见地在“减速”议题上达成表面一致，但背后涉及安全话语权、IPO 与监管博弈。
变压器电路的数学框架（2021）
Transformer Circuits 团队在 2021 年发布了一篇数学框架论文，用一套等价但更易读的方式重新描述 Transformer 内部计算，并首次在小模型中定位到能解释“上下文学习”的“归纳头”。它不发布产品，却是后来大模型可解释性研究的重要起点。
胡塞武装使用 Claude Code 开发导弹制导软件：Anthropic
据 Hacker News 引述的报道，Anthropic 方面称胡塞武装曾使用其编程工具 Claude Code 开发导弹制导相关软件，这一案例把"大模型编程助手被用于军事用途"的争议推到了台前。
Elevenlabs 通过 app 和 API 推出 Music v2.5，提供免费版和专业版选项
Elevenlabs 发布 ElevenMusic v2.5，通过 App 和 API 同时提供免费与 Pro 两档服务，官方称新模型生成的歌曲更饱满自然，并在近 4.8 万组盲测对比中获得多数听众偏好。
什么工作会消失？Morgan Stanley称白领工作者可能是AI的最大受益者
摩根士丹利 9 月 11 日发布观点称，最容易被 AI 冲击的高学历、高收入城市白领，反而可能是这轮技术变革的最大受益者。在裁员消息频出的当下，这个判断值得仔细拆解。
为什么 AI 研究者明知会杀死人类，却还在不停地造它
OpenAI 首席财务官 Sarah Friar 在旧金山高盛科技大会上透露，大模型已能训练更小的模型，这种"递归自我改进"（RSI）让部分 AI 研究者公开表达对生存风险的担忧；但与此同时，投资人和公司仍在继续推进研发。争论的焦点不是技术能不能做，而是明知可能有风险，为什么还在做。
习近平向金砖国家推介开源 AI，而北京正考虑对本国模型加以限制
习近平在金砖峰会上提议建立中国主导的开源 AI 合作社区，并邀请成员国加入北京 7 月刚成立的 World AI Cooperation Organization；与此同时，中国商务部门仍在讨论是否限制 Qwen、豆包、GLM 等模型的海外访问。一边向外推开源，一边对内收紧，是这则新闻最值得关注的地方。