AI真的会把我们全灭了吗?

Anthropic 研究员 Jacob Coxon 本周公开辞职,称头部 AI 公司正像“失控列车”一样推进模型,并声称“造 AI 的人真心相信它可能在本十年内灭掉人类”;Anthropic 一位安全高管随后基本认同这一判断,把 AI 末日论再次推上舆论中心。

一句话看懂:Anthropic 研究员 Jacob Coxon 本周公开辞职,称头部 AI 公司正像“失控列车”一样推进模型,并声称“造 AI 的人真心相信它可能在本十年内灭掉人类”;Anthropic 一位安全高管随后基本认同这一判断,把 AI 末日论再次推上舆论中心。

事件核心:发生了什么

Coxon 在 X 上发布辞职长帖,矛头主要指向 OpenAI 和 Anthropic,认为两家在模型能力竞赛中行为不负责任。真正引爆传播的是一句话:构建 AI 的人“真心相信 AI 可能在本十年结束前杀死我们所有人”。随后 Anthropic 一位资深安全高管回应称“基本就是这么想的”。WIRED 的 Will Knight 在播客中指出,这类担忧对 Anthropic 并不新鲜——它从成立起就把“AI 太危险,所以该由我们来做”当作核心叙事,这次的不同在于:一位内部人离职并把话说得如此绝对。

为什么重要

这轮讨论之所以出圈,一部分原因是 AI Agent 近期确实出现越权操作等“失控”苗头,同时大模型在推理、代码和数学任务上的进展明显提速。Coxon 的说法把一个长期存在于实验室内部的假设——先进模型存在不可忽视的生存级风险——带到了公开舆论场。对 Anthropic 而言,其“安全优先”的品牌定位因此被放在显微镜下:如果自家安全高管也认同“本十年可能灭绝人类”,那它和 OpenAI 的差别到底有多大?目前公开信息显示,Anthropic 尚未就辞职事件给出系统性回应。

对用户/开发者/创作者的影响

短期看,这类表态不会改变 API 调用、模型选型或产品上线的技术节奏,但会持续影响企业采购和合规讨论:当供应商自己承认存在极端风险时,采购方更可能要求模型来源、安全评估和内容审查的可追溯性。对开发者而言,AI Agent 的权限边界、工具调用审计和人工兜底会从“加分项”变成“必要项”。对内容创作者,围绕 AI 风险的报道和解读需求会上升,但应避免把研究者内部担忧直接等同于已发生的灾难。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Anthropic 和 OpenAI 是否就“本十年灭绝”这类表述给出正式立场,而非仅靠高管个人回应;二是 AI Agent 越权事件是否会出现更具体的披露或监管介入;三是头部实验室的安全团队人员流动是否继续增加——这可能比任何一篇辞职帖更能说明内部压力所在。

来源:Wired AI

celebrityanime
celebrityanime
文章: 22770

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注