AI 行业最新一轮的末日警告,背后究竟是什么?

Anthropic 一名研究员因担心 AI 危及人类而离职,Anthropic 对齐团队负责人随即公开表示“AI 可能杀死所有人类”,并给出十年内概率超过 10% 的个人判断,引发行业对“末日论”动机的争论。

一句话看懂:Anthropic 一名研究员因担心 AI 危及人类而离职,Anthropic 对齐团队负责人随即公开表示“AI 可能杀死所有人类”,并给出十年内概率超过 10% 的个人判断,引发行业对“末日论”动机的争论。

事件核心:发生了什么

这轮讨论由 AI 研究员 Jacob Coxon 引发,他曾在 OpenAI 工作,近期从 Anthropic 离职,理由是认为头部 AI 公司正在“拿我们的生命赌博”。随后,Anthropic 对齐团队负责人转发其帖子并表态:“我们确实真诚地相信 AI 可能杀死所有人类”,还称他个人认为未来十年内发生概率“大于 10%”。TechCrunch 的 Equity 播客三位主持人对这一表态展开讨论,录制时间早于 Anthropic CEO Dario Amodei 发布更谨慎的 AI 开发计划。

为什么重要

这是目前 AI 行业围绕“生存性风险”最响的一次公开辩论。一方面,它把此前多见于博客和访谈的“末日概率”(P(doom))带入了主流科技媒体视野;另一方面,它暴露出一个长期矛盾:如果顶尖 AI 公司真认为模型有超过一成的概率灭绝人类,为什么仍继续训练、发布并准备 IPO?播客主持人 Kirsten Korosec 提出一个更尖锐的猜测——这类警告是否也是一种“变相炫耀”,暗示自家模型能力已经强到需要担心失控。Sean O’Kane 则把话题引向现实层面:这种表述未来如何写进 Anthropic 的 IPO 招股书,法务团队是否需要专门改写风险披露章节。

对用户/开发者/创作者的影响

目前公开信息显示,这场争论尚未直接改变任何模型 API、定价或产品功能,但它会影响外界如何理解 Claude 等模型的开发节奏与安全策略。对开发者和企业采购者来说,如果 Anthropic 继续强化“高生存风险”叙事,其发布节奏、模型卡、安全评估报告和使用条款可能更保守,接入和合规成本存在上升可能。对内容创作者和普通用户,这类表态容易被放大成“AI 要毁灭人类”的标题,实际使用 AI 应用、图像生成或大模型推理时,不必据此做过度判断,更应关注具体产品的可靠性和数据政策。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Anthropic 是否会把“大于 10% 的灾难概率”这类表述正式写入 IPO 风险披露,以及 Amodei 的谨慎开发计划能否落地为可核查的训练与部署约束。二是 OpenAI、Google DeepMind 等竞品是否跟进类似表态,还是转向更具体的模型评估和安全基准。三是开源与闭源阵营的反应,尤其是开发者社区是否把“P(doom)”当成营销话术,进而影响对模型选型和推理成本的判断。

来源:TechCrunch AI

celebrityanime
celebrityanime
文章: 23283

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注