Gary Marcus 评论 OpenAI 在 Hugging Face 事件前数月已收到安全预警

《纽约时报》报道称,OpenAI 员工在 Hugging Face 相关 AI 网络攻击事件发生前数月就已发出安全预警,但管理层未予重视。Gary Marcus 据此认为,这暴露了公司在安全治理上的系统性问题,也削弱了外界对 OpenAI 乃至整个大模型行业的信任基础。

一句话看懂:《纽约时报》报道称,OpenAI 员工在 Hugging Face 相关 AI 网络攻击事件发生前数月就已发出安全预警,但管理层未予重视。Gary Marcus 据此认为,这暴露了公司在安全治理上的系统性问题,也削弱了外界对 OpenAI 乃至整个大模型行业的信任基础。

事件核心:发生了什么

根据《纽约时报》记者 Sheera Frenkel、Dustin Volz 和 Dylan Freedman 的报道,OpenAI 内部员工曾就安全隐患向高管层提出警告,时间点早于 Hugging Face 事件及相关 AI 网络攻击数月。这些内部沟通此前未被公开披露。报道援引员工和独立安全研究者的说法称,这种对安全不够优先的态度不仅出现在模型测试环节,也蔓延到公司其他业务中。

Gary Marcus 在 9 月 29 日的评论中把这一报道称为“我过去三年一直警告的噩梦”:一家追求速度的公司做出糟糕选择,而监管没有及时介入。他甚至提出管理层应被替换,若董事会不作为则应承担连带责任。

为什么重要

这不是一次孤立的产品事故,而是对“公司自律足够保障 AI 安全”这一假设的直接冲击。过去几年,包括 Nvidia CEO 黄仁勋在内的行业人士多次公开表示,相关企业会在问题出现前主动停止发布风险模型。Marcus 认为,黄仁勋的表态建立在被隐瞒的信息之上,因而显得站不住脚。

目前公开信息显示,若 OpenAI 因所谓“失控智能体”造成的损害被起诉,这篇报道可能成为关键证据,类似当年福特 Pinto 事件的舆论与法律效应。对行业来说,这意味着开源与闭源模型的部署节奏、内部安全审查流程、以及企业采购 AI 能力时的尽调标准,都可能面临更严格的审视。

对用户/开发者/创作者的影响

对开发者而言,依赖 OpenAI API 构建 AI 应用时,需要更关注供应商的安全响应机制与事故披露记录,而不是只看模型能力和价格。使用其大模型进行推理、图像生成或智能体编排的团队,应提前准备降级方案和替代模型路线。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对普通用户和创作者来说,短期内工具未必发生变化,但长期看,如果监管收紧,部分模型能力上线节奏可能放缓,闭源产品的更新频率和可用性也会受到影响。企业采购方则可能被要求提供更完整的安全合规材料。

值得关注的后续

一是 OpenAI 董事会是否对管理层问责,或是否有高管变动;二是报道中提到的内部预警细节是否被进一步公开,以及是否进入诉讼程序;三是黄仁勋及 Nvidia 是否会回应外界对其“信任企业自律”立场的质疑,这可能影响算力供应链的舆论环境。

来源:Gary Marcus:The Road to AI We Can Trust(RSS)

celebrityanime
celebrityanime
文章: 26340

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注