AI巨头罕见“踩刹车”：Anthropic警告“AI造AI”时代逼近，呼吁全球放缓研发

一句话看懂：当地时间6月4日，AI公司Anthropic发布《当AI构建自身》一文，首次公开披露其AI助手Claude已能编写公司80%以上代码，并警告“递归自我改进”（即AI无需人类干预自主升级）可能比预期更早到来，呼吁国际社会建立协调机制，必要时主动放缓前沿AI研发。

事件核心：发生了什么

Anthropic在文章中披露了多项内部数据，展示AI在编程和自我优化上的效率飞跃。截至2026年5月，Claude编写了Anthropic代码库中超过80%的合并代码；2026年第二季度，工程师平均代码交付量是2024年同期的8倍。在具体任务上，Claude对小型模型训练代码的优化能力从一年前的3倍提升至52倍；面对数千次训练任务崩溃的故障排查，AI仅用两小时定位并修复，而人类通常需要两到三天。更重要的是，AI独立稳定完成任务所需的时间，已从“每七个月翻倍”缩短到“每四个月翻倍”。Anthropic警告，在算力充足的情况下，AI可能形成持续的自我迭代循环，即“递归自我改进”。尽管公司强调该阶段尚未完全到来，但可能比多数机构预期更早出现。若AI完全自主构建下一代系统，当前模型的微小偏差可能在迭代中被放大，导致人类失去控制。

为什么重要

这是当前全球最受关注的AI实验室之一首次以如此明确的姿态呼吁“减速”。Anthropic提出，国际社会、政府和顶级AI实验室应共同建立全球协调机制，必要时主动暂停前沿AI研发，为对齐研究和社会制度调整留出时间。这一立场与主流AI行业“越快越好”的竞争逻辑形成直接冲突。公司也坦承实施难度极大：AI训练比导弹发射井更容易隐藏，商业诱惑使秘密违约的可能性很高，谨慎的公司可能在竞争中失去领先地位。这篇文章的意义不在于结论是否成立，而在于一个掌握最前沿进展的玩家，选择公开承认技术失控风险并主动呼吁约束，这在AI发展史上相当罕见。

对用户/开发者/创作者的影响

对于依赖AI工具完成编程、内容生成和实验的开发者与创作者，Anthropic的数据表明，AI在效率上的提升正在加速，且已从简单的执行助手向复杂的系统自优化迈进。短期看，这意味着更强大的AI工具（如Claude）可能更快迭代，用户获得的能力提升也将随之加速。但长期看，如果“递归自我改进”成为现实，AI系统的行为可能变得难以预测和调试。开发者应关注模型对齐和可解释性方面的技术进展，并警惕对AI输出过度自动化信任的风险。对于采购企业而言，这一警告提示需要将模型风险评估纳入供应链管理，而不仅是关注性能指标。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

行业反应：OpenAI、Google DeepMind等主要竞争对手是否会回应Anthropic的呼吁，或公开反对“暂停”路线？
政策跟进：各国政府是否会参考该建议，出台更为实质性的AI研发监管框架，尤其是针对前沿模型的训练披露要求？
技术验证：Anthropic提出的“递归自我改进”风险是否存在有效的技术监测手段（如训练日志审计、能力突变检测）？

来源：AIbase

AI巨头罕见“踩刹车”：Anthropic警告“AI造AI”时代逼近，呼吁全球放缓研发