Sam Altman 称部分 AI 事故“不可避免”,行业正艰难应对末日恐慌

OpenAI CEO Sam Altman 在 Salesforce Dreamforce 大会上表示,新技术带来一定程度的 AI 事故"不可避免",行业应像航空业一样建立透明的事故报告与学习机制,而不是因为末日恐惧就放弃技术。

一句话看懂:OpenAI CEO Sam Altman 在 Salesforce Dreamforce 大会上表示,新技术带来一定程度的 AI 事故”不可避免”,行业应像航空业一样建立透明的事故报告与学习机制,而不是因为末日恐惧就放弃技术。

事件核心:发生了什么

2026 年 9 月 15 日,Altman 在 Dreamforce 大会演讲中提出,AI 公司需要建立类似美国联邦航空管理局(FAA)和国家运输安全委员会(NTSB)的事故调查文化——事故会发生,关键是公开报告、快速复盘、防止升级。他同时承认 AI 末日担忧”有其合理性”,具体指向两类风险:系统失控,以及少数 AI 开发者过度集中权力。他强调答案不是放弃技术,而是让”对齐、安全与监控”始终”远远领先于能力”,并在做不到时”准备减速或停止”。

此番表态的背景是,上周从 Anthropic 离职、此前任职于 OpenAI 的研究员 Jacob Coxon 公开批评头部实验室”正冲向自我改进的超级智能,拿我们的生命赌博”,引发新一轮安全争论。与此同时,特朗普政府对 AI 监管兴趣有限,总统科技顾问 David Sacks 更在 X 上回应 Altman 与 Anthropic CEO Dario Amodei 的”放缓前沿”呼吁:”去吧,但别再假装需要别人许可。”

为什么重要

这实质上是前沿实验室在”安全叙事”与”商业竞争”之间的又一次表态。Altman 的”事故不可避免论”把讨论从”能否杜绝风险”转向”如何披露和学习风险”,为持续推出更强模型预留了空间——这恰恰是 AI 安全倡导者的核心批评:一边承认赌注巨大,一边继续训练更强大的系统。同时,Sacks 的回应表明,在美中竞争框架下,监管缺位短期内不会改变,行业自律与事故报告机制可能成为事实上的替代方案,但其约束力存疑。

对用户/开发者/创作者的影响

对依赖 API 和大模型能力的产品团队而言,这意味着模型迭代节奏大概率不会因安全争论放缓,但事故披露可能更公开,例如模型幻觉、越权操作、Agent 误执行等问题的官方复盘会增多,值得纳入技术选型的风险评估。对企业采购方,供应商的安全报告机制和”减速/停止”承诺可作为合规尽调的参考项。对创作者和普通用户,短期内工具能力仍会快速提升,但需对自主 Agent、图像生成等场景的输出保持人工核验习惯。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 等公司是否会真正落地类似 NTSB 的第三方事故调查与公开报告流程,还是停留在表态;二是”对齐与监控领先于能力”是否有可量化标准,例如发布前的评估门槛;三是监管缺位下,若发生重大 AI 事故,行业自律机制能否承受公众与政治压力。

来源:Business Insider

celebrityanime
celebrityanime
文章: 23894

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注