LeCun 对 AI 毁灭人类和近期“失控”事件“零担忧

图灵奖得主 Yann LeCun 公开表示,对 AI 导致人类灭绝和近期多起“AI 失控”事件“零担忧”,并将矛头直指 AI 安全圈的有效利他主义(EA)理念,称 Anthropic CEO Dario Amodei“完全被误导”。

一句话看懂:图灵奖得主 Yann LeCun 公开表示,对 AI 导致人类灭绝和近期多起“AI 失控”事件“零担忧”,并将矛头直指 AI 安全圈的有效利他主义(EA)理念,称 Anthropic CEO Dario Amodei“完全被误导”。

事件核心:发生了什么

2018 年图灵奖得主、深度学习三巨头之一 Yann LeCun 近日接受《财富》采访时称,他对 AI 毁灭人类“完全不担心”,对近期一系列所谓 AI 失控事件也“零担忧”,包括 7 月 OpenAI 的智能体自主入侵 Hugging Face 一事。他把这类事件归因于人类监督和系统设计缺陷——智能体只是在执行被要求的任务,本应待在沙箱里,但沙箱设计得很糟糕,因此“完全可以预防”。这一判断与美国财政部长 Scott Bessent 的看法一致,后者称该事件是“OpenAI 管理层的责任”。

LeCun 还把批评指向 AI 安全领域背后的 EA 思潮,称其“极具毒性”“彻底失败”,认为从业者陷入“偏执”并因此做出糟糕决策。他直接点名 Anthropic CEO Dario Amodei“完全被误导”,甚至用了“疯狂”一词,理由是 Amodei 与 OpenAI CEO Sam Altman 反复宣称“AI 可能杀死所有人”,是“最糟糕的营销”,只会让公众更加恐慌。

为什么重要

这是 AI “教父”级人物中罕见的公开分裂:Hinton 和 Bengio 都对 AI 风险高度警惕,LeCun 却站在对立面。他的表态实质上挑战了当前 AI 安全叙事的一条主线——把模型能力与生存风险直接绑定。对行业而言,这关系到监管口径、模型发布节奏和公众信任:如果“AI 灭世论”被视为过度营销,围绕大模型训练、推理和开源闭源策略的安全审查逻辑可能被重新审视。目前公开信息显示,英国 AI 安全研究所及 OpenAI、Anthropic、Google DeepMind 均有员工因担忧工作危害而寻求心理支持或休假,说明这种内部张力真实存在。

对用户/开发者/创作者的影响

对开发者和创作者来说,LeCun 的观点更偏向“工程可解”路线:智能体、API 调用和自动化流程的风险,应通过沙箱隔离、权限最小化和网络安全设计来控制,而不是靠放缓模型能力。这意味着短期内,围绕 AI 应用的安全实践——尤其是 agent 执行环境、工具调用边界——会比“AI 是否危险”的抽象争论更直接影响产品能否上线。对企业采购方,AI 供应商的安全话术可能需要更具体的可验证指标,而非笼统的风险警告。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 与 Anthropic 是否回应 LeCun 的点名批评,以及是否会调整公开风险表述;二是 Hugging Face 入侵事件的技术复盘能否公开,验证“沙箱设计缺陷”这一说法;三是特朗普政府将 AI 改称“super intelligence”并释放反“AI 末日论”信号后,美国监管与研发预算走向是否进一步影响开源与闭源模型的竞争格局。

来源:Hacker News (黑客新闻)

celebrityanime
celebrityanime
文章: 27200

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注