计算机科学家质疑AI超级智能可行性:递归自我改进仍是猜想

计算机科学家 Cal Newport 在 IEEE Spectrum 撰文,从工程角度质疑“递归自我改进”能否真的催生超级智能,并警告即便智能爆炸不会到来,执意追求它也可能造成实际伤害。这为当前 AI 安全争论提供了一个常被忽略的技术可行性视角。

一句话看懂:计算机科学家 Cal Newport 在 IEEE Spectrum 撰文,从工程角度质疑“递归自我改进”能否真的催生超级智能,并警告即便智能爆炸不会到来,执意追求它也可能造成实际伤害。这为当前 AI 安全争论提供了一个常被忽略的技术可行性视角。

事件核心:发生了什么

2026 年 11 月,IEEE Spectrum 刊发 Cal Newport 的评论文章。文中提到,Anthropic 研究员 Jacob Coxon 此前公开辞职,警告 Anthropic 与 OpenAI 正在“直线冲向可自我改进的超级智能”;Anthropic 对齐科学负责人 Evan Hubinger 回应称“AI 确实可能杀死全人类”,CEO Dario Amodei 也对 CNN 表示自己大体认同这一担忧。Newport 在乔治城大学计算机科学博士研讨课上梳理了超级智能叙事的技术与文化根源,提出多项反对理由。他指出,递归自我改进(RSI)概念可追溯到 1965 年统计学家 I.J. Good 的“智能爆炸”猜想,后来被 Extropians、Eliezer Yudkowsky 和 Nick Bostrom 等人推广。尽管 Anthropic 在 2026 年 6 月的博客中称 AI 已在加速 AI 系统开发,OpenAI 也在 9 月提出到 2028 年 3 月开发自动化研究者的目标,但 Newport 认为这些探索并不等于已踏上不可控 RSI 的轨道。他提到,GPT-4 之后单纯扩大参数规模的收益递减,工程师更多转向强化学习等后训练手段;素材在此处未完整展开后续论点。

为什么重要

当前 AI 安全讨论多集中在“超级智能会不会毁灭人类”“如何对齐”等议题,却较少追问超级智能在工程上是否可实现。Newport 的论点把问题拉回可行性:如果 RSI 本身缺乏可靠工程依据,围绕它的恐慌和政策设计就可能失焦。同时,他对“即便智能爆炸不来,追求它仍可能有害”的提醒,也意味着头部实验室以超级智能为目标投入资源,本身值得审视。目前公开信息显示,这仍是学术评论而非行业共识。

对用户/开发者/创作者的影响

对开发者和 AI 应用团队而言,这一讨论的实际意义不在于站队“超级智能会不会来”,而在于评估模型能力提升的瓶颈:数据、算力、后训练方法都会影响大模型迭代节奏,不能默认“模型会自己越变越强”。对关注 AI 治理的创作者和企业采购方来说,头部公司公开谈论生存风险,可能影响监管预期与公众信任,但不应被当作产品路线图。使用 Claude、ChatGPT 等产品的用户短期内不会因此看到功能变化。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Anthropic 和 OpenAI 是否披露更多关于 AI 自动化研究与 RSI 路径的工程细节;二是学界对 Newport 论点的回应,尤其是后训练和代理式研究能否突破数据与收益递减限制;三是相关讨论是否影响监管机构对前沿模型安全评估的要求。

来源:Hacker News (黑客新闻)

celebrityanime
celebrityanime
文章: 36045

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注