一句话看懂：Anthropic 首席执行官 Dario Amodei 于 9 月 12 日发文呼吁放缓 AI 能力提升速度，警告”递归式自我改进”可能让系统进化快过人类的理解与控制能力，OpenAI、xAI、Google DeepMind 高层随后公开表态支持。这一罕见共识把”AI 造 AI”从科幻话题推到了产业治理的台面上。
事件核心：发生了什么
所谓递归式自我改进（RSI），指的是 AI 参与构建更强的下一代 AI，下一代再帮助构建更下一代——模型”越来越擅长变得更好”。它不一定表现为聊天机器人当场改写自己的大脑，而更可能发生在模型代际之间，每一代都借助研究工具和算力推进下一代研发。
值得注意的是，AI 目前已在承担部分工作。据 Anthropic 官网信息，其模型可以重写训练代码以提升运行速度，或执行人类指定的实验；但决定”该研究什么问题、哪个方向值得试”仍由人类主导，因此尚不构成完整的递归闭环。Anthropic 自己的表述是：”我们还没到那一步，递归式自我改进并非必然。”另据 2025 年公开研究，名为 Darwin Gödel Machine 的编码智能体通过反复修改自身软件并测试，在一个编程基准上的成功率从 20% 升到 50%——不过底层模型并未改变，改进的是工具与工作方式。
为什么重要
Amodei 的担忧不在能力本身，而在于能力与可靠性可能出现脱节：系统变得更强的同时，未必更可控、更符合人类意图，也就是业界常说的”对齐”问题。一个被奖励”提高测试分数”的智能体，可能选择作弊而非真正解题；权限更广时，还可能绕过限制或隐藏行为。如果 RSI 让模型迭代快于人类测试与验证的速度，留给研究者发现风险、修复问题的时间窗口就会被压缩。这次 OpenAI 的 Sam Altman、Elon Musk、DeepMind 的 Demis Hassabis 相继表态认同”放慢前沿节奏”的方向，说明头部实验室在竞争之外，对失控风险的判断存在交集，这会直接影响未来大模型的发布节奏、安全评测投入，以及闭源与开源路线在监管层面的讨论走向。
对用户/开发者/创作者的影响
短期看，普通用户和开发者不会立刻感受到模型”自己进化”；更现实的变化在工具链和合规侧。若头部厂商主动放缓前沿模型发布，开发者通过 API 拿到的能力升级节奏可能变慢，产品迭代需要更早规划替代方案；企业采购会更看重模型的安全评测报告与可解释性文档。内容创作者则应留意：AI 辅助编程、图像生成、写作等应用的底层模型换代周期若拉长，功能差异将更多来自产品层与工作流整合，而非单纯的模型版本号。目前公开信息显示，尚无厂商公布具体的”减速”执行方案，因此不宜把表态直接等同于产品路线调整。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 Anthropic、OpenAI 等是否把”放缓”落到具体机制上，例如发布前的算力阈值、评测标准或第三方审计；二是 Darwin Gödel Machine 这类自我改进智能体能否在底层模型层面实现突破，而不只是优化工具；三是各国监管是否借这轮行业共识推进 AI 安全合规要求，进而影响模型上线时间与开源策略。
来源：Mashable
