METR警告:AI能力进步快过专家安全测试能力,长任务每3.6个月翻倍

AI研究组织METR警告,大模型在AI研究任务上的进步速度已超过专家可靠评估其安全性的能力,现有公开数据不足以排除未来几年出现研究加速的风险。

一句话看懂:AI研究组织METR警告,大模型在AI研究任务上的进步速度已超过专家可靠评估其安全性的能力,现有公开数据不足以排除未来几年出现研究加速的风险。

事件核心:发生了什么

METR在2026年11月发布的分析中指出,在反馈明确的编程与计算任务上,前沿大模型多数情况下已能胜过有经验的人类专业人士,但尚未超过大规模顶级专家团队。更关键的是,模型能处理的任务时长约每3.6个月翻一倍;若按现有趋势简单外推,到2027年7月,模型在长达200小时的任务上可达50%成功率。该分析覆盖到Opus 5.5和GPT-6 Astra等领先模型。

为什么重要

问题不只是模型变强,而是测量能力跟不上。METR提醒,常见、易运行的基准测试可能高估模型在真实场景中的表现,因为开发者往往在高度相似的测试环境中训练模型。若评估失真,行业和监管方就难以“有意义地理解、评估并反应”新系统带来的灾难性风险。这直接关系到闭源大模型上线前的安全审查节奏,也影响开源社区对能力声明的信任。

对用户/开发者/创作者的影响

对开发者而言,依赖公开跑分选型可能带来误判,尤其在开放式、缺少即时反馈、需要真实判断的任务上,模型仍明显吃力。企业采购和API集成应增加贴近自身业务的长流程测试,而非只看短任务成绩。创作者用AI做图像生成或内容生产时,也需注意模型在可验证任务上的强势不等于在主观判断任务上可靠。目前公开信息显示,METR并未给出具体产品的安全结论,其警告指向评估方法本身。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是METR所述的长任务翻倍趋势能否在更多模型和任务类型上复现;二是主要实验室是否公开更贴近真实部署的评测协议;三是监管机构是否会要求第三方独立审计成为大模型上线前的常规环节。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 36673

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注