OpenAI 解散了防范灾难性 AI 风险的团队,将其工作移交至其他小组

OpenAI在2026年7月底解散了专门评估灾难性AI风险的“Preparedness”团队,相关工作被拆解到其他部门。这次组织调整发生在多名安全高层离职、内部担忧加剧的背景下,引发外界对OpenAI安全治理优先级的新一轮讨论。

一句话看懂:OpenAI在2026年7月底解散了专门评估灾难性AI风险的“Preparedness”团队,相关工作被拆解到其他部门。这次组织调整发生在多名安全高层离职、内部担忧加剧的背景下,引发外界对OpenAI安全治理优先级的新一轮讨论。

事件核心:发生了什么

据《金融时报》援引内部消息人士报道,OpenAI已于7月底关闭“Preparedness”团队。该团队原本负责评估AI模型是否可能造成严重或灾难性风险,例如生物威胁与网络攻击能力。解散后,这些评估工作被分派给既有团队,原负责人Dylan Scandinaro转而研究“递归自我改进型AI”的安全风险——即那些能够优化自身、甚至训练其他模型的系统。OpenAI联合创始人Greg Brockman回应称,安全相关工作已更紧密地融入模型开发流程。

值得注意的是,近期已有多名安全事务员工离职,包括首席伦理官Chloe Bakalar和Joshua Achiam。内部匿名消息源形容存在一种“逐渐蔓延的责任感与恐惧感”,担忧OpenAI在安全方面的投入不足。部分员工还公开发声,特别是在涉及Hugging Face的自主黑客事件发生后,有员工希望公司将该事件视为“警告信号”。

为什么重要

这次调整不只是一次普通的部门重组。Preparedness团队是OpenAI在2023年围绕“前沿AI风险”建立的专门机构,其解散意味着公司对灾难性风险的评估从“独立专职”转向“分散融入”。这种架构变化,叠加多位安全高管离职和内部不安情绪,使得外界有理由关注OpenAI在追求模型能力与商业化速度时,安全流程是否会被稀释。目前公开信息显示,OpenAI仍在推进安全相关工作,但独立监督机制的弱化,可能影响行业对前沿模型可信度的判断。

对用户/开发者/创作者的影响

对普通用户和开发者而言,短期影响可能并不直观。但需要留意两点:一是使用OpenAI API时,如果模型在生物、网络安全等高风险领域的能力评估转由项目团队自行负责,评估标准和透明度可能变化;二是当企业采购或开发基于GPT系列模型的应用时,对方的安全审计链条是否还像过去一样清晰可查,会直接影响合规评估。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

接下来有三个具体观察点:第一,解散后由谁负责高风险能力的最终上线判断,是否有可公开的审批流程;第二,Dylan Scandinaro对“递归自我改进型AI”的研究成果是否会形成新的安全指南或模型限制;第三,Hugging Face事件之后,OpenAI是否会在模型行为层面推出更具体的防护措施,或影响其与开源社区的合作姿态。目前这些方向都尚未有官方细节披露。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 18746

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注