OpenAI 首席科学家警告：AI 或很快进入自我进化阶段，希望业界自愿放缓

事件核心：发生了什么

Jakub Pachocki 在 9 月 8 日发表的文章中指出，AI 模型在相对短的时间内已经能操作计算机、与人类及其他 AI 系统协作，甚至独立开展研究项目。他认为，下一步模型将进入“递归自我改进”阶段——即无需人类介入，模型自行提升能力。Pachocki 明确表示，这是一个需要极度谨慎的时刻，并担心业界并未准备好应对机器智能持续快速提升的后果。他建议开发者通过更严格的引导让 AI 与人类利益对齐，或在必要时主动放慢开发节奏，并期望这种自愿减速成为建立“共同安全阈值”之前的普遍做法。

为什么重要

这是 OpenAI 核心技术负责人罕见地公开呼吁“减速”，与当前行业竞速大模型迭代的主流氛围形成鲜明对比。值得注意的是，OpenAI 近期在内部使用 agent 加速自身 AI 研发的同时，也承认对齐与安全能力未必能跟上模型能力的增长。Pachocki 此前已多次强调，尚无任何实验室让 AI 对齐与监控达到足够可靠的水平，并呼吁政府优先推动国际协调。这番表态意味着，即便是站在大模型能力前沿的团队，也开始正视能力失控风险对行业竞争逻辑的潜在冲击——尤其是当自我改进一旦启动，人类可能来不及设置有效的干预节点。

对用户/开发者/创作者的影响

对依赖 OpenAI API 构建应用的开发者而言，短期内无需担心模型突然“自我进化”导致接口行为失控；但需要留意的是，若行业真的形成自愿放缓的共识，新模型的能力跃迁节奏可能放缓，基于最新模型能力的应用创新窗口也会相应拉长。对企业采购方来说，安全阈值的讨论若转化为实际合规要求，可能影响模型选型与部署策略。对内容创作者而言，现阶段更实际的影响来自 OpenAI 在追求可控性时可能进一步收紧生成内容的安全过滤策略。目前公开信息显示，这些呼吁尚未转化为具体的产品变更或上线延迟计划。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

后续可以观察三个方向：一是除 OpenAI 外，Anthropic、Google DeepMind 等主要实验室是否会公开响应“自愿放缓”的倡议，还是继续按原节奏推进下一代模型；二是各国监管机构是否会借此类表态推动更正式的国际协调机制，而不仅停留在实验室自律层面；三是 OpenAI 自身是否会在未来几个月的模型发布节奏上出现可见调整，以验证其“安全优先”表态的实际执行力。目前公开信息显示，所有这些仍停留在观点与讨论阶段，尚无明确的路线图或时间表。

来源：AIbase