一句话看懂:一篇新挂上 arXiv 的论文指出,Arena 式匿名两两对比、再用 Bradley-Terry 模型聚合投票的排行榜,可能被策略性投票、策略性提示和策略性提名三种手段操纵;论文摘要称,在公开榜单数据上单种攻击可抬升约 15-20 名,组合使用最高约 45 名。
事件核心:发生了什么
2026 年 11 月 13 日提交到 arXiv cs.AI 的论文(编号 2611.14769)研究了在线大模型排行榜的脆弱性。这类榜单通常让用户对匿名模型回答同一提示的表现进行两两投票,再按 Bradley-Terry 模型汇总成排名,被广泛用于产品页、研究论文和生产环境的模型评估。作者在摘要中称,他们发现三类操纵方式:一是策略性投票,包括对无关模型投票以间接抬高目标模型;二是策略性提示,选择对某模型更有利的问题;三是策略性提名,通过塞入无关模型来改变排名。作者表示已在公开榜单数据上演示这些效果,并逐项分析了成因与防护思路。目前公开信息仅来自摘要,尚未核验全文实验细节,论文也未见同行评审结论。
为什么重要
排行榜是很多团队选型大模型、开源模型与闭源模型时的重要参考,也被厂商用于对外展示能力。如果排名本身可以通过投票和提交策略被抬高,榜单作为“第三方信号”的可信度就会被削弱。论文强调,这类风险不限于某一个榜单,而是适用于任何允许开放提示、开放投票或开放模型提交、并用 Bradley-Terry 模型做偏好聚合的评测体系。对正在比较 API 供应商、开源权重和推理成本的开发者来说,这意味着单一榜单名次不宜直接当作能力结论。
对用户/开发者/创作者的影响
普通用户看到的排名可能被少数有动机的投票或提交行为影响,短期内不必据此全盘否定榜单,但应交叉参考固定测试集、任务级评测和自己场景下的试用结果。开发者做模型选型时,建议把榜单名次当作线索而非结论,优先在自己关心的任务上做 A/B 测试;如果自建 Arena 式评测,需要在投票去重、提示审核、模型提交审核和统计模型稳健性上做额外设计。企业采购和内容创作者同样应关注评测口径是否公开、是否允许任意投票与提交。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是论文提出的防护手段是否会被主流排行榜采纳,例如限制无关模型提交、过滤异常投票或改用更稳健的聚合方法;二是公开榜单是否会披露操纵检测和清洗规则;三是后续是否有独立复现,验证 15-20 名和 45 名的抬升幅度在不同任务与数据条件下是否成立。目前公开信息显示,这些结论仍以论文摘要为准,尚待全文和社区复核。
来源:arXiv cs.AI


