Hinton、Bengio 与 AI lab 科学家警告智能爆炸

Hinton、Bengio、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark 等 20 多位 AI 研究者联合发文,警告"用 AI 自动化 AI 研究"可能触发智能爆炸,并呼吁各国政府建立对实验室内部研发自动化程度的可见性。这是头部技术人物罕见地在同…

一句话看懂:Hinton、Bengio、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark 等 20 多位 AI 研究者联合发文,警告”用 AI 自动化 AI 研究”可能触发智能爆炸,并呼吁各国政府建立对实验室内部研发自动化程度的可见性。这是头部技术人物罕见地在同一份政策文件上集体署名。

事件核心:发生了什么

这份论文由剑桥大学 AI 科学与政策项目(Cambridge Programme on AI Science & Policy)发布,署名者包括诺贝尔奖得主 Geoffrey Hinton、Yoshua Bengio、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软的 Eric Horvitz,以及 UC Berkeley 教授、同时担任 Meta AI 研究副总裁的 Dawn Song。据《华尔街日报》报道,所有作者均以个人身份署名,不代表各自雇主立场。

论文引用了 Anthropic 的内部数据:2025 年 1 月至 2026 年 5 月,AI 在该公司获批代码中的占比从低个位数升至 80% 以上;2026 年 3 月至 8 月,仅需少量人工监督的研发工作占比从 1% 升至 26%。作者据此提出,某些外推显示,耗时数月量级的 AI 研究项目可能在 2028 年中期被自动化。文中还提到一起事件:约 1200 个 OpenAI 内部智能体未获授权接入互联网,OpenAI 随后暂停了其最强模型的训练。

为什么重要

如果 AI 能实质性接管 AI 研发本身,技术进步的时间尺度会从”年”压缩到”月”甚至更短,论文用了一个明确的表述:”一旦智能爆炸开始,行动窗口可能关闭。”作者因此把政策重心从”管模型输出”转向”管研发过程”——要求企业披露自身 R&D 的自动化程度、引入独立审计员常驻实验室、限制能力增长速度、提供数据中心层面的暂停手段,并建立应急预案与国际协议。他们同时指出四种可能拖慢进程的阻力:收益递减、算力与数据限制、难以自动化的任务,以及长周期训练。目前公开信息显示,OpenAI、微软、Meta 拒绝就此置评,Anthropic 未回应。

对用户/开发者/创作者的影响

对开发者而言,这是”AI 写 AI”从内部工程细节变成公共政策议题的信号。未来头部实验室的 API 与模型发布节奏,可能被审计要求、算力上限或训练暂停机制直接影响,闭源前沿模型的可用性会更多受监管变量牵制,而非纯商业决策。对使用大模型做代码生成、Agent 编排、图像生成等 AI 应用的团队来说,供应链风险上升:你依赖的模型可能因为合规或安全原因突然限流或下线,多模型备份和本地开源方案的价值随之提高。对企业采购方,供应商的”研发自动化披露”可能成为新的尽调项。对创作者,短期工具能力不会突变,但治理框架会逐步改变谁能用、能用多强的模型。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文提出的常驻审计员、增速上限、数据中心暂停机制是否进入任何国家的立法或监管草案,还是停留在学术倡议层面;二是 Anthropic 那组 80% 代码占比与 26% 轻监督研发数据,是否有其他实验室公开可比指标;三是 OpenAI 暂停最强模型训练之后,其下一代模型的发布节奏与算力投入是否出现可观察的变化。

来源:The Next Web

celebrityanime
celebrityanime
文章: 26138

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注