Anthropic 研究员认为 AI“可能导致全人类死亡”的可能性超过 10%

事件核心：发生了什么

据 BBC 报道，Anthropic 安全研究员 Evan Hubinger 在 X 上发帖称，他认为未来十年内 AI 有”大于 10%”的概率导致人类灭绝。他明确区分了两个阶段：目前已有的大模型风险”较低”，真正让他担心的是技术可能在不久后发展到能自我改进的程度，从而构成存在性风险。他并未具体说明 AI 会以何种路径消灭人类。

这轮表态的直接触发点，是刚离开 Anthropic、此前在 OpenAI 任职的研究员 Jacob Coxon 的另一条帖子。Coxon 批评两家公司”都没有负责任地行事”，并称这些系统”很快将拥有超人能力，能入侵任何东西、一夜之间颠覆任何领域、获取真正的权力和资源”。Hubinger 的回应，等于在同事离职炮轰的背景下，进一步把风险量级摆上台面。

为什么重要

值得注意的不是”10%”这个数字本身，而是说这话的人来自谁。Anthropic 一直以”AI 安全”作为核心叙事，其核心研究员公开给出存在性风险的概率区间，意味着行业争论的焦点已经变化：不再争论”AI 到底有没有风险”，而是转向”风险有多大、该怎么量化、谁该为此负责”。这对正在推进大模型训练和推理算力扩张的头部实验室构成直接压力，也让安全团队与产品、商业化团队之间的张力更加公开化。

目前公开信息显示，Hubinger 并未给出这一概率的推导方法，也没有配套的模型能力评测数据，因此它更像是一种专家判断而非可验证结论。但一位顶级安全研究员的公开量化，仍会影响监管讨论、企业采购中的风险评估，以及人才在安全与能力团队之间的流动。

对用户/开发者/创作者的影响

对普通用户和 AI 应用开发者而言，这条新闻短期内不改变任何 API 价格、模型能力或产品上线节奏。真正的现实影响在合规和采购侧：当头部实验室自己的安全研究员公开讨论极端风险，企业在选型大模型、评估闭源 API 供应商时会更容易被问到”安全治理是否有独立机制”。对做图像生成、Agent 或自动化工具的创作者来说，更实际的变量仍是模型能力边界和平台政策，而非这类长期概率判断。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是 Anthropic 官方是否会就 Hubinger 的表态给出正式回应，还是维持”个人观点”的处理方式。二是 Coxon 离职后的去向与公开发声是否持续，他掌握的两家公司内部信息可能继续成为话题。三是监管层面是否会把这类来自实验室内部的概率判断纳入政策讨论，进而影响大模型上线审查和算力投入的合规成本。

来源：Slashdot