AI 到底会如何杀死我们？

一句话看懂：《纽约客》记者 Joshua Rothman 公开自己的 P(doom) 约为 10%，即认为 AI 导致人类灭绝级灾难的概率约一成；这场讨论因 Anthropic 研究员 Jacob Coxon 辞职而再度升温，但 AI 领袖们其实已警告多年。

事件核心：发生了什么

上周，数学家和软件工程师 Jacob Coxon 从 Anthropic 辞职，并警告“构建 AI 的人真心相信它可能在这十年内杀死我们所有人”。这类表态并不新鲜：2018 年 Dario Amodei 就曾称超级智能“可能摧毁人类”；2015 年 Sam Altman 表示 AI“最有可能导致世界末日”；2014 年 Elon Musk 也把 AI 列为最大生存威胁。近期变化在于能力演示与风险事件同时出现：模型被用于挑战纳维-斯托克斯问题，也出现了失控式的黑客攻击案例。Anthropic 还发布报告，披露有军方研究机构的科学家用 Claude 研究病毒——这类工作既可能产出疫苗，也可能产出生物武器。随后 Amodei 呼吁行业减速和加强监管，特朗普则在 Truth Social 上回应称 AI 唯一需要的“护栏”是一个强大而聪明的总统。

为什么重要

P(doom) 这个非正式指标正在成为行业内部的风险共识表达。Rothman 给出的 10% 与许多从业者的口径接近，他的解释是：要和其他存在性风险（气候变化、核武器、生物武器）放在同一尺度里比较，而 10% 本身已经“高得让人不舒服”。目前公开信息显示，这场讨论的意义不在于预测具体死法，而在于它把安全治理、模型能力边界和监管节奏推到了同一张桌面上。当头部实验室一边发布强大模型，一边呼吁减速，行业就会面对一个更尖锐的问题：安全承诺能否落到训练、推理和发布流程里。

对用户/开发者/创作者的影响

对开发者而言，如果监管压力上升，API 调用、模型微调、开源权重发布和数据使用条款都可能收紧，合规成本会先体现在企业采购和上线审批环节。对创作者和普通用户，短期更实际的变化是内容审核、生物与网络安全相关查询的限制会更细。对投资判断来说，P(doom) 不是财务指标，但它会影响算力投入节奏、闭源与开源路线的选择，以及安全团队在组织内的权重。