AI 业内人士发出新警告——包括前 Anthropic 工程师 Jacob Coxon

前 Anthropic 工程师 Jacob Coxon 在离职公开信中警告,OpenAI 与 Anthropic 正在“竞赛式”冲向可自我改进的超级智能,并非个别现象——多家头部 AI 公司内部研究人员正公开表达对研发速度的担忧。

一句话看懂:前 Anthropic 工程师 Jacob Coxon 在离职公开信中警告,OpenAI 与 Anthropic 正在“竞赛式”冲向可自我改进的超级智能,并非个别现象——多家头部 AI 公司内部研究人员正公开表达对研发速度的担忧。

事件核心:发生了什么

上周,AI 研究者 Jacob Coxon 从 Anthropic 离职,公开批评 OpenAI 和 Anthropic 都“没有负责任地行事”,称两家公司正“径直冲向可递归自我改进的超级智能,拿我们的生命下注”。相关帖子发布 10 天内浏览量已超过 1.7 亿次。就在他发帖前数小时,OpenAI 研究副总裁 Aidan Clark 也公开表示,自己第一次怀疑“事情是否推进得太快”。Anthropic 安全方向员工 Drake Thomas 则写道,愿意“一把火烧掉自己的股权,只为把存活概率提高 1%”。CNN 指出,这类声音并非孤例,压力很大程度上来自 AI 公司内部员工。Coxon 还提到,他与 Anthropic 管理层的具体分歧之一,是中美能否就当前的竞赛达成替代方案。

为什么重要

过去对 AI 风险的公开警告多来自外部学者或监管机构,这次的核心发声者却是正在参与大模型训练、推理与安全评估的一线人员。这透露出两层信息:一是头部实验室内部对“自我改进”路线存在真实分歧,而不只是公关话术;二是员工担心,一旦模型能承担越来越多训练与研发工作,自己推动公司减速的谈判筹码会迅速下降。目前公开信息显示,OpenAI CEO Sam Altman、xAI CEO Elon Musk 已同意 Anthropic CEO Dario Amodei 提出的在 AI 公司内嵌入独立监督者的建议,但具体形式尚未落地。

对用户/开发者/创作者的影响

对开发者和创作者而言,最直接的变化不是模型突然停更,而是安全审查与发布节奏可能趋紧:API 权限、模型卡说明、高风险能力(如自主智能体、自我训练相关工具)的开放门槛或进一步抬高。企业采购方也需要关注供应商是否引入外部监督机制,这会影响到合规与长期可用性判断。开源与闭源路线的争论也可能升温——若闭源实验室主动减速,开源社区与算力自建方可能被动承接部分开发压力。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是独立监督者提议能否落成具体制度,还是停留在口头表态;二是头部实验室下一代模型的发布节奏与能力披露是否出现变化;三是内部员工警告是否会转化为离职潮或监管听证的正式证词。Coxon 本人表示“还不知道接下来做什么”,他的下一步去向也值得留意。

来源:Slashdot

celebrityanime
celebrityanime
文章: 24380

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注