OpenAI新任安全研究员称失去对AI的控制将是“灾难性的”,且“大多数人可能会丧命

AI 安全研究员 Paul Christiano 加入 OpenAI 董事会及安全与安保委员会,同时公开警告:如果行业继续以当前速度追求超级智能而缺乏更强的对齐能力,人类可能永久失去对 AI 的控制,并造成大规模人员伤亡。他的表态与前一天 Anthropic 研究员 Jacob Coxon 的辞职警告形成呼应…

一句话看懂:AI 安全研究员 Paul Christiano 加入 OpenAI 董事会及安全与安保委员会,同时公开警告:如果行业继续以当前速度追求超级智能而缺乏更强的对齐能力,人类可能永久失去对 AI 的控制,并造成大规模人员伤亡。他的表态与前一天 Anthropic 研究员 Jacob Coxon 的辞职警告形成呼应,把”安全派离职/入职”这条暗线推到了台前。

事件核心:发生了什么

2026 年 9 月 9 日,OpenAI 宣布 AI 安全研究员 Paul Christiano 加入其董事会以及安全与安保委员会。Christiano 并非外部新人:他曾主导 OpenAI 的对齐研究,也在美国国家标准与技术研究院(NIST)下属的 AI 标准与创新中心担任过安全负责人,是这一领域资历较深的研究者。

他在随声明发布的長文中给出了相当直接的判断:以近期的能力增长轨迹和对齐难度的持续存在来看,AI 能力快速加速导致”灾难性且不可逆的失控”存在实质性风险,且时间窗口”非常近”。他明确表示,包括 OpenAI 在内的整个 AI 行业,目前并没有走在把这一风险降到可接受水平的轨道上。他同时强调,加入 OpenAI 不代表对该公司安全实践的背书或批评。

为什么重要

这条新闻的价值不在”又有人警告 AI 危险”,而在于说话人的位置和时机。Christiano 是带着对齐研究背景进入 OpenAI 治理层的,他的公开判断等于把”失控风险”从学术讨论搬进了董事会议题。更微妙的是,他在声明里承认自己认为行业当前路线不达标——这既是施压,也是一种内部改革的姿态。

另一层背景是人才流动。就在他声明前一天,前 OpenAI、现 Anthropic 研究员 Jacob Coxon 宣布离职,并在 X 上称两家公司都在”直奔自我改进的超级智能,拿我们的生命赌博”。叠加 OpenAI 近年多位安全研究员出走,外界对其安全承诺的疑问会继续放大。对正在冲刺大模型能力与商业化的一线实验室来说,安全团队的人事变动本身就是一种信号。

对用户/开发者/创作者的影响

短期看,普通用户使用的 ChatGPT、API 和各类 AI 应用不会因此发生功能变化,价格和调用方式也不受影响。但中长期,这类治理层表态往往会转化为更严格的上线审查、模型卡披露、红队测试和推理阶段的安全约束,开发者在做 agent 类、自动化决策类应用时,可能遇到更细的使用条款和风控接口。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对做图像生成、内容创作和自动化工作流的团队来说,值得留意的是:如果前沿实验室放慢发布节奏或收紧模型访问,依赖最新闭源大模型的成本结构会受影响,部分需求可能转向开源模型或自部署推理。企业采购方则可能被要求提供更明确的安全合规说明。

值得关注的后续

一是 Christiano 在 OpenAI 董事会与安全委员会中是否拥有实质投票权和否决权,目前公开信息显示仍是未知。二是 OpenAI 是否会随下一次模型发布同步公开更多对齐与风险评估细节。三是这轮安全研究员的进出是否会外溢到监管层面,影响前沿模型的审批与上线节奏。

来源:Business Insider

celebrityanime
celebrityanime
文章: 22559

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注