Andrew Ng 称 AI 灭绝警告是科幻小说

吴恩达(Andrew Ng)在 Bloomberg TV 采访中表示,AI 导致人类灭绝的警告“更像科幻而非科学”,并称行业炒作这类恐惧是为了博取关注、影响监管走向。

一句话看懂:吴恩达(Andrew Ng)在 Bloomberg TV 采访中表示,AI 导致人类灭绝的警告“更像科幻而非科学”,并称行业炒作这类恐惧是为了博取关注、影响监管走向。

事件核心:发生了什么

吴恩达是 Google Brain 与 Coursera 的联合创始人,也曾与 Dario Amodei、Sam Altman 在两人职业生涯早期共事。他在接受 Bloomberg TV 采访时,把 AI 灭绝论定性为“更像科幻而非科学”。他不只是表达不同意,还进一步指出:行业在 AI 热潮早期就炒作灾难恐惧,用来争取曝光并塑造监管,现在同样的事情正在重演。

他所说的这轮浪潮,起点是 9 月 8 日一位 Anthropic 研究员的辞职信,信中指责前雇主拿人的生命冒险。该帖获得约 1.5 亿次浏览,随后几天技术从业者纷纷套用这一格式,把“灭绝”替换成荒诞说法,变成圈内梗。吴恩达将其解读为一场有组织的宣传,但 TNW 此前的报道发现,这些模仿更多是跟风而非协同行动。

这一批评并不新鲜。吴恩达在 2023 年 12 月对美国参议院一个论坛就说过,大公司渲染恐惧是为了推动对自己有利的规则,从而“抽掉梯子”,阻挡新进入者。当时他把 AI 在一个世纪内导致人类灭绝的概率估为约千万分之一。三年过去,措辞几乎没变。

为什么重要

争议的焦点在于:AI 风险到底该按工程问题管,还是按失控问题管。欧盟《AI 法案》把系统性风险清单写进同一条款,既包括降低化生放核武器门槛、网络能力、虚假信息和关键行业重大事故等工程风险,也包括“失控”——与人意图对齐相关的非预期控制问题,以及模型自我复制。吴恩达想优先处理的和他称为虚构的,被欧洲法律放进了同一段文字。

义务已经生效。欧盟委员会技术主管 Henna Virkkunen 本月表示,欧盟法律要求 Anthropic 和 OpenAI 评估模型失控风险,而全球其他地方没有这样的要求。这相当于把吴恩达主张的工程做法变成了强制规定。不过这些义务只适用于算力超过门槛的模型,因此只落在最大的开发商身上——这正是他在 2023 年描述的“梯子”,只是这次由监管者而非实验室搭起来。

对用户/开发者/创作者的影响

对开发者和企业采购方来说,合规边界正在按模型算力而非应用场景划分。使用头部闭源大模型 API 的产品,其上游厂商要承担失控评估义务;而基于开源模型自部署、或调用中小厂商推理服务的一方,目前公开信息显示大多不在这类义务范围内。这意味着合规成本可能进一步向少数大厂集中,中小团队在模型选型时要把供应商的合规状态纳入考量。对内容创作者而言,围绕 AI 风险的公共讨论会更两极:一边是监管文本里的硬性要求,一边是行业里被指为营销的恐惧叙事,判断信息时值得区分这两层。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是欧盟算力门槛的具体数值和执法节奏,是否会把更多模型纳入评估范围;二是 Anthropic、OpenAI 等头部厂商如何公开回应失控评估要求,是否披露相关测试方法;三是吴恩达“抽掉梯子”的判断是否被后续立法验证,即新规是否实质抬高新进入者的门槛。

来源:The Next Web

celebrityanime
celebrityanime
文章: 24091

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注