用20个模型复现50项LLM研究:多数结论15个月内失效

有研究团队用2024年7月至2026年9月发布的20个大模型,重新检验50项被广泛引用的LLM结论,发现截至2026年9月30日,44%已不再成立、34%明显减弱,说明不少关于AI的认知可能只有很短的保质期。

一句话看懂:有研究团队用2024年7月至2026年9月发布的20个大模型,重新检验50项被广泛引用的LLM结论,发现截至2026年9月30日,44%已不再成立、34%明显减弱,说明不少关于AI的认知可能只有很短的保质期。

事件核心:发生了什么

这项研究收录了从谄媚、越狱到长上下文和文化偏见等50项LLM结论,覆盖8家开发商的20个模型,既有开源也有闭源、既包括大模型也包括小模型。团队对每项结论沿用原实验设置,并按模型发布时间拟合效应变化趋势,把结论分为“过期、减弱、持续、增强”:44%过期,34%明显减弱,16%持续,6%增强。较典型的过期项包括算术与字母计数、长上下文中间信息检索、伪造引用,以及被质疑后放弃正确答案;2023年Walters和Wilder发现GPT-3.5约55%引用为伪造,而在GPT-6.1-Sol和Claude Sonnet 5.5上这一比例明显下降。反转诅咒、多轮指令、越狱与提示注入等被归为减弱。增强的3项均涉及判断与偏好,如评审模型偏好自身答案、迎合用户偏好。以上均基于公开摘要信息。

为什么重要

LLM能力随模型迭代快速变化,若评测基准、安全结论或论文结论被当作长期事实引用,容易误导产品选型与风险判断。对行业而言,这意味着模型评测需要持续复测,而不是一次定终身;对闭源与开源模型同样如此。研究也提醒,能力类缺陷往往随新一代模型消失,而偏好和判断类问题更顽固。

对用户/开发者/创作者的影响

开发者在调用API或设计AI应用时,不应直接照搬旧论文的提示词策略和失败模式结论,应在目标模型上重新验证;做RAG或长上下文应用时,尤其要复测“中间信息”类表现。创作者和企业采购可把旧评测当参考而非承诺,关注结论对应的模型版本和日期。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是该团队是否公布完整实验细节与复现脚本;二是“过期”结论在具体模型上的分布是否一致;三是行业评测机构是否会引入定期复测机制。

来源:Hacker News · 24h最热

celebrityanime
celebrityanime
文章: 32402

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注