标签： Claude

AI 资讯

AI 模型不杀人，人杀人

Anthropic 研究员 Jacob Coxon 于 2026 年 9 月 7 日公开辞职，称 AI "可能在这个十年结束前杀死所有人"；其同事 Evan Hubinger 回应称"我们确实认真相信 AI 可能杀死全人类"，并给出十年内超过 10% 的主观概率。但这场争论真正的问题不是模型会不会杀人，而是谁…

celebrityanime
2026年 9月 13日

AI 资讯

Anthropic CEO 呼吁行业放慢脚步，Sam Altman 表示认同

Anthropic CEO Dario Amodei 发布长文，提出“为前沿发展定速”的三点计划，呼吁行业主动放慢 AI 开发节奏；OpenAI CEO Sam Altman 公开表示认同。这是两家头部大模型公司少见地在“减速”议题上达成表面一致，但背后涉及安全话语权、IPO 与监管博弈。

celebrityanime
2026年 9月 13日

AI 资讯

变压器电路的数学框架（2021）

Transformer Circuits 团队在 2021 年发布了一篇数学框架论文，用一套等价但更易读的方式重新描述 Transformer 内部计算，并首次在小模型中定位到能解释“上下文学习”的“归纳头”。它不发布产品，却是后来大模型可解释性研究的重要起点。

celebrityanime
2026年 9月 13日

AI 资讯

胡塞武装使用 Claude Code 开发导弹制导软件：Anthropic

据 Hacker News 引述的报道，Anthropic 方面称胡塞武装曾使用其编程工具 Claude Code 开发导弹制导相关软件，这一案例把"大模型编程助手被用于军事用途"的争议推到了台前。

celebrityanime
2026年 9月 13日

AI 资讯

Elevenlabs 通过 app 和 API 推出 Music v2.5，提供免费版和专业版选项

Elevenlabs 发布 ElevenMusic v2.5，通过 App 和 API 同时提供免费与 Pro 两档服务，官方称新模型生成的歌曲更饱满自然，并在近 4.8 万组盲测对比中获得多数听众偏好。

celebrityanime
2026年 9月 13日

AI 资讯

什么工作会消失？Morgan Stanley称白领工作者可能是AI的最大受益者

摩根士丹利 9 月 11 日发布观点称，最容易被 AI 冲击的高学历、高收入城市白领，反而可能是这轮技术变革的最大受益者。在裁员消息频出的当下，这个判断值得仔细拆解。

celebrityanime
2026年 9月 13日

AI 资讯

为什么 AI 研究者明知会杀死人类，却还在不停地造它

OpenAI 首席财务官 Sarah Friar 在旧金山高盛科技大会上透露，大模型已能训练更小的模型，这种"递归自我改进"（RSI）让部分 AI 研究者公开表达对生存风险的担忧；但与此同时，投资人和公司仍在继续推进研发。争论的焦点不是技术能不能做，而是明知可能有风险，为什么还在做。

celebrityanime
2026年 9月 13日

AI 资讯

习近平向金砖国家推介开源 AI，而北京正考虑对本国模型加以限制

习近平在金砖峰会上提议建立中国主导的开源 AI 合作社区，并邀请成员国加入北京 7 月刚成立的 World AI Cooperation Organization；与此同时，中国商务部门仍在讨论是否限制 Qwen、豆包、GLM 等模型的海外访问。一边向外推开源，一边对内收紧，是这则新闻最值得关注的地方。