刚从 Anthropic 离职的 AI 研究员称,人类的”关键时刻”已经到来

Anthropic 预训练研究员 Jacob Coxon 在 X 上宣布离职并警告 AI 竞赛正在让所有人承担风险,帖子浏览量超过 1 亿。这不是一次普通的离职,而是把安全派研究者长期在内部说的话推到了公开台面上。

一句话看懂:Anthropic 预训练研究员 Jacob Coxon 在 X 上宣布离职并警告 AI 竞赛正在让所有人承担风险,帖子浏览量超过 1 亿。这不是一次普通的离职,而是把安全派研究者长期在内部说的话推到了公开台面上。

事件核心:发生了什么

Jacob Coxon 曾在 OpenAI 工作,后加入 Anthropic 负责模型预训练阶段。本周二他在 X 上发布离职声明,称许多参与构建 AI 的同行都认同他的判断:未来一到两年是决定人类命运的关键窗口。他直接引用了 Anthropic 同事的说法——“endgame”“crunch time”,并表示在这些研究者眼中,Anthropic 及其竞争对手正在决定人类的命运。

Anthropic 对齐研究负责人 Evan Hubinger 随后也在 X 上表态,估计未来十年 AI 导致人类灭绝的概率超过 10%,该帖被 OpenAI 与 Anthropic 的现任及前任研究员转发,部分人表示这在业内属于常见看法。Coxon 提到,OpenAI 智能体攻击 Hugging Face 平台的安全事件,以及行业规模膨胀——如今 AI 支撑了美国经济增长的可观份额、拥有数十亿用户——都促使他公开发声。

为什么重要

时点敏感。Anthropic 据报正准备申请可能是史上规模最大的 IPO,同时试图向投资人证明安全关切可控;OpenAI 则忙于回应 Hugging Face 安全事件。两位一线研究者公开给出“10% 灭绝概率”这类量化判断,意味着安全担忧不再是边缘声音,而是来自核心研发层。目前公开信息显示,Coxon 的建议是 OpenAI 与 Anthropic 先协调限制“递归自我改进”,即用 AI 构建新 AI 系统,之后需要美中等国际力量介入。

对用户/开发者/创作者的影响

短期看,这类表态可能影响大模型 API 的发布节奏与准入策略,尤其是涉及智能体、代码生成、网络安全能力的高风险功能。开发者在选择闭源 API 时,可能需要更关注供应商的安全披露与合规文件;开源社区则可能承接被收紧的能力溢出。对创作者和企业采购方而言,模型能力的连续性、价格与条款稳定性值得重新评估,安全事件带来的平台中断风险也应纳入考量。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Anthropic 与 OpenAI 是否就递归自我改进采取可验证的协同限制;二是 IPO 进程中安全叙事如何写进招股材料;三是 Hugging Face 攻击事件的调查结论,以及是否会推动监管层对大模型智能体能力设限。

来源:Wired AI

celebrityanime
celebrityanime
文章: 22544

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注