一句话看懂：OpenAI 首席科学家 Jakub Pachocki 发文承认，随着推理模型能力快速提升，公司对模型内部“思维链”（CoT）的监控与解释能力正在减弱，并警告 AI 可能走向递归式自我改进（RSI），呼吁采取更广泛的干预措施，而不仅是技术层面的对齐研究。
事件核心：发生了什么
9 月 6 日，OpenAI 首席科学家 Jakub Pachocki 在官方博客发表长文《An Alien Mind》，回顾了自 2023 年“RLSlow”项目以来推理模型的发展轨迹。文中披露了多个关键判断：其一，团队在 2023 年就意识到会看到比自己更聪明的机器，但当时未预料到三年后推理模型已能操作计算机、协作完成研究项目，并深刻改变网络安全格局。其二，OpenAI 内部研究结果使其“强烈预期”当前进展速度可维持到递归式自我改进（RSI）阶段，未来几年系统能力可能出现同等或更大幅度的跃升，并越来越自主地驱动自身开发。其三，也是最核心的警示——随着算力规模扩大，AI 更多是“生长”而非“设计”出来的，系统内部涌现的复杂机制正类似神经科学研究，难以给出完整解释；监控“思维链”（CoT）的能力正在减弱，模型能力越强，实验结果越难解读。
为什么重要
这是 OpenAI 核心科学家罕见地以第一人称系统阐述“对齐困境”的公开文本。值得注意的并非其呼吁本身，而是文中的两点“暗示”：第一，OpenAI 承认当前对齐与监控手段在更强大模型上效果衰减，CoT 监控能力减弱意味着外部安全评估的可验证性下降——这对整个 AI 安全研究路线是一个实质性挑战。第二，文中明确将“递归式自我改进”视为可期待的前景而非科幻假设，这直接影响行业对 AGI 时间表的判断。需要指出的是，Pachocki 同时表态 OpenAI 会单方面限制进一步扩展，但他认为“需要更广泛的干预”，这一表述被外界普遍解读为在暗示需要外部监管介入，亦是 OpenAI 在算力军备竞赛背景下的一种姿态信号。
对用户/开发者/创作者的影响
对于 API 开发者和企业用户而言，如果模型内部推理过程的可监控性持续下降，意味着依赖“可解释输出”构建审核机制的第三方应用将面临更大的不确定性——下游难以判断模型给出的答案是否经过可靠推理，合规层面对齐成本上升。对大模型研究者来说，文中将“数学研究能力”作为可选优化方向但刻意不优先投入的做法，提示了顶尖实验室内部的能力优先级调整——安全与对齐研究正占据更多研发资源。对普通用户，最直接的影响是这类系统操作计算机与图形界面的能力一旦规模化，自动化攻击、深度伪造生成等滥用门槛将进一步降低，个人数据与网络安全环境面临新压力。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 OpenAI 是否会在未来版本中改变“思维链”可见性策略——目前其 API 默认不向第三方开发者暴露完整推理链，监控能力减弱后可能进一步收紧。二是文中所称“单方面限制进一步扩展”是否有具体量化标准，以及这种自我限制是否会造成其他实验室的算力竞赛失衡。三是“递归式自我改进（RSI）”从研究预期走向公开讨论的节点，监管部门是否会随之调整对前沿模型训练规模的审批或披露要求。目前公开信息显示，该文更多是方向性声明而非具体路线图，后续可关注 OpenAI 是否发布配套的技术论文或安全评估框架更新。
来源：OpenAI News
