哈佛心理学家平克:别渲染 AI 末日,真正该做的是安全工程

哈佛大学心理学家史蒂芬·平克公开反驳 AI 灭绝论,认为渲染末日叙事会挤占资源、掩盖真正需要投入的安全工程;他更担心生物恐怖、网络攻击和不受约束的 AI 智能体这三类现实风险。

一句话看懂:哈佛大学心理学家史蒂芬·平克公开反驳 AI 灭绝论,认为渲染末日叙事会挤占资源、掩盖真正需要投入的安全工程;他更担心生物恐怖、网络攻击和不受约束的 AI 智能体这三类现实风险。

事件核心:发生了什么

据 The Decoder 报道,平克在 Quillette 发表了一封致科技博主、精神科医生 Scott Alexander 的公开信。起因是 Alexander 向平克发起挑战,要求就 AI 生存风险展开公开辩论,平克拒绝了,称这类辩论更像是“取悦观众的竞赛”。他特别反驳了“回形针最大化器”这一经典末日假设——即 AI 为生产尽可能多的回形针而不惜牺牲全人类。平克认为,该假设把“智能”和“攻击性”混为一谈。

平克过去对 AI 持乐观态度,但他承认自己有过两次误判:一是没料到大语言模型会变得如此强大,二是没预料到 AI 公司的产品发布节奏会如此之快。他直言,推动这种“发布竞赛”的群体中,不少恰恰是长期警告 AI 风险的人。

为什么重要

这场争论的本质不是“AI 是否危险”,而是风险优先级怎么排。平克指出,目前公开信息显示,他真正担心的是三类威胁:生物恐怖主义、网络攻击,以及缺乏约束的 AI 智能体。他强调,反复强调“人类灭绝”并不能缓解这些现实问题,有效路径是落地细致的安全工程,包括独立监督、问责机制和人类控制权。

对行业而言,这意味着安全讨论正从抽象的哲学辩论,转向可执行的工程与治理议题。对正在拼大模型、算力和推理能力的公司来说,谁来监督、如何问责、智能体能自主到什么程度,将直接影响产品上线节奏和合规成本。

对用户/开发者/创作者的影响

对开发者来说,平克的观点指向一个务实方向:与其争论 AI 会不会毁灭人类,不如在 API 权限、AI 智能体行为边界、日志审计和人工接管机制上做更多工程投入。对使用图像生成、内容生成等 AI 应用的用户和创作者,这意味着未来产品可能会在权限提示、内容溯源和异常行为拦截上更严格。对企业采购方,供应商是否具备独立监督和问责设计,可能成为选型时的加分项。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是平克与 Alexander 的辩论是否会以其他形式展开;二是 AI 公司是否会调整“发布竞赛”节奏,把安全工程团队和独立监督机制写进产品路线图;三是围绕 AI 智能体的权限控制、问责标准是否会出现更具体的行业规范或监管动作。

来源:AIbase

celebrityanime
celebrityanime
文章: 26188

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注