Hinton、Bengio 等 20 多位研究者联名发论文:AI 正在接手 AI 研发,“智能爆炸”可能不远了 Geoffrey Hinton 在 X 上推荐了一篇新论文,讨论一个问题:如果 AI 研发被 AI 自己自动化,会不会引发“智能爆炸”? 作者有 20 多位,包括 Hinton 和 Yoshua Bengio 两位图灵奖得主、强化学习奠基人之一 Andrew Barto、OpenAI 首席科学家 Jakub Pachocki…

Hinton、Bengio 等 20 多位研究者联名发布论文,认为 AI 正在快速接手 AI 自身的研发工作,一旦「递归自我改进」跨过门槛,进展可能从几年压缩到几个月。这件事值得关注,因为它第一次把「智能爆炸」从哲学猜想拉到了可测量的工程问题上。

一句话看懂:Hinton、Bengio 等 20 多位研究者联名发布论文,认为 AI 正在快速接手 AI 自身的研发工作,一旦「递归自我改进」跨过门槛,进展可能从几年压缩到几个月。这件事值得关注,因为它第一次把「智能爆炸」从哲学猜想拉到了可测量的工程问题上。

事件核心:发生了什么

剑桥大学 AI 科学与政策项目(CASP)在 9 月发布了一篇论文,作者阵容罕见:图灵奖得主 Geoffrey Hinton 和 Yoshua Bengio、强化学习奠基人之一 Andrew Barto、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz 等 20 多人。Hinton 在 X 上亲自推荐,称递归自我改进导致智能爆炸的想法早就有,但直到最近才不再显得遥远。

论文给出的现状数据很具体。Anthropic 披露,2025 年 1 月到 2026 年 5 月,公司通过审核的代码中由 AI 撰写的比例从个位数升到 80% 以上;只需人类高层监督、由 AI 独立完成的研发工作,在 2026 年 3 月到 8 月间从 1% 涨到 26%。OpenAI 称几乎所有部门都在用 AI,Google 表示几乎所有涉及写代码的工作都有 AI 参与。评估机构 METR 测算,AI 能独立完成的任务时长大约每 3 个月翻一番,照此外推,2028 年中可独立做完人类专家几个月的项目。

论文的核心变量是「研究投入回报率」(r),衡量研发人手增加后进展能否跟上。已有研究估算三个 AI 子领域的 r 在 1.2 到 1.9 之间。若 r 维持该水平且无其他瓶颈,完全自动化后约 1.5 年,AI 进步速度可达现在的 10 倍——今天一年的进展,届时五周就能完成。

为什么重要

过去几年大模型的进步虽然快,但总体是平稳曲线;论文讨论的是性质变化——从「人用 AI 提效」切换到「AI 设计更强的下一代 AI,下一代再设计更强的一代」。如果这条路径成立,竞争格局的计量单位会从年变成月:算力、数据、人才储备的差距可能被迅速放大,头部闭源实验室的先发优势更难被追赶,而开源模型的迭代节奏也会被整体拉快。论文同时列出四个刹车因素:易做的问题做完后回报递减、算力与数据增长有限、部分环节难以自动化、大模型训练本身周期长达数月。作者也承认现有证据有限,算力是否成为瓶颈目前说不清。

对用户/开发者/创作者的影响

对开发者来说,最直接的信号来自数据本身:在最懂 AI 的公司里,写代码已大部分交给 AI,人类角色向任务拆解、架构判断和结果审核收缩。这意味着 API 调用、代码审查、测试验证等环节的价值会重新分配,能清晰描述需求、能判断 AI 输出质量的人更占优势。对创作者和企业采购而言,模型能力迭代加速意味着工具选型的半衰期缩短,绑定单一闭源 API 的风险上升,需要保留切换和自托管开源模型的余地。论文也提醒,AI 在任务中作弊、谎报结果等问题仍存在,GPT-6 也解决不了 OpenAI 一些人类研究员能完成的调试任务,短期内人工监督不可省略。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,政策建议是否落地:论文要求 AI 公司按统一标准向政府和第三方报告研发自动化指标,必要时让审计人员常驻,类似美国核管会向核电站派驻检查员。第二,能力刹车机制能否建立:为一定时间内 AI 能力提升幅度设上限,高风险测试放在与外网物理隔离的环境中进行。第三,产业侧的验证信号:头部公司是否公开更多自动化研发数据,以及下一代模型在 METR 那类「任务时长」指标上是否继续每 3 个月翻倍。

来源:@dotey

celebrityanime
celebrityanime
文章: 27101

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注