Lovable CEO 就 AI 可能毁灭人类的警告发声

前 OpenAI、Anthropic 研究员 Jacob Coxon 公开警告两家实验室正在“拿我们的生命赌博”,多数 AI 高管保持沉默,瑞典 vibe-coding 创业公司 Lovable 的 CEO Anton Osika 是少数公开表态支持的人。争论焦点是:超级智能的安全问题该不该被当作真实的生存风…

一句话看懂:前 OpenAI、Anthropic 研究员 Jacob Coxon 公开警告两家实验室正在“拿我们的生命赌博”,多数 AI 高管保持沉默,瑞典 vibe-coding 创业公司 Lovable 的 CEO Anton Osika 是少数公开表态支持的人。争论焦点是:超级智能的安全问题该不该被当作真实的生存风险来对待。

事件核心:发生了什么

2026 年 9 月,27 岁的 Jacob Coxon 在 X 上发文,称自己在 OpenAI 和 Anthropic 做了约三年研究后离开后者,并指控两家公司正竞相冲向“自我改进的超级智能”,却没有承担相应责任。他直言:“构建 AI 的人真心相信它可能在这个十年结束前杀死我们所有人。这不是营销噱头。”这番话在 AI 研究者、政策制定者和科技观察者中引发激烈争论,多位 Anthropic 现员工和前员工公开支持其部分观点。

9 月 10 日(周四),Lovable CEO Anton Osika 在 LinkedIn 发帖,附上 Coxon 的 X 截图,表态“这类警告需要被认真对待”,并称“当安全无法被证明时”,他支持放缓危险开发。他还呼吁欧洲领导人推动国际协调。与之形成对比的是,OpenAI 和 Anthropic 的 CEO 此次均未公开回应,尽管 Sam Altman 和 Dario Amodei 过去都发过类似警告。

为什么重要

这轮争论暴露了头部实验室与其他 AI 公司之间的立场分化。Anthropic 对齐团队负责人 Evan Hubinger 表示,他个人认为未来十年内 AI 杀死全人类的概率超过 10%,且 Anthropic 目前还没有解决超级智能对齐问题的方案。与此同时,Gary Marcus 等研究者认为近期人类灭绝“没有现实场景”,Melanie Mitchell 也称这类恐惧“过于牵强”。目前公开信息显示,争论的核心不在于是否停止 AI 开发,而在于“安全能否被证明”是否应成为继续推进超级智能训练的前置条件——这会直接影响大模型的训练节奏、算力投入和监管路径。

对用户/开发者/创作者的影响

对开发者和创作者来说,短期不会改变 API 调用、AI 应用开发和内容生成工具的可用性。但这类公开争论往往先影响政策,再影响产品:如果“安全证明”被写入监管框架,闭源大模型的训练和发布可能面临更长的合规周期,而开源模型的路线之争也会更激烈。对依赖单一模型 API 的团队,建议保留多模型切换能力,关注后续是否出现新的推理或训练披露要求,以及企业采购时供应商的安全文档是否成为硬性条款。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 OpenAI 和 Anthropic 是否会对 Coxon 的指控作出正式回应,尤其是 Evan Hubinger 所说的对齐方案缺失问题。二是欧洲是否会出现具体的国际协调动作,还是停留在表态层面。三是 Lovable 这类非头部 AI 公司公开站队安全议题,是否会带动更多中小 AI 公司跟进表态,从而改变行业内部的话语平衡。

来源:Business Insider

celebrityanime
celebrityanime
文章: 22950

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注