随机采样够用但不够稳:BestRand 压缩评测成本,高风险降低50.2%

Hugging Face Papers 收录的一项论文提出 BestRand,用小规模评测子集近似全量基准结果,在保留随机采样低成本优势的同时压低高误差尾部;这直接影响大模型评测要花多少算力和时间。

一句话看懂:Hugging Face Papers 收录的一项论文提出 BestRand,用小规模评测子集近似全量基准结果,在保留随机采样低成本优势的同时压低高误差尾部;这直接影响大模型评测要花多少算力和时间。

事件核心:发生了什么

该论文关注“基准压缩”:从完整测试集中抽取少量样本,让模型结果尽量接近全量评测,以降低模型评估的时间与成本。作者给出了从子集分数估计全量分数时误差分布的解析近似,指出多数子集误差较小,但少数子集会出现明显更大误差,形成长尾分布。基于此,作者提出 BestRand,并称在 70 多个文本、多模态和 Agent 基准以及 VLA 评测上验证,相比对比方法,高误差风险降低 50.2%、估计误差平均降低 16.4%,构建成本仅为对比方法的 51.3%。以上均来自论文摘要,全文实验细节尚未在素材中给出。

为什么重要

评测已成为大模型研发中的隐性成本项,模型家族不断扩张时尤其明显。该研究提醒一个反直觉事实:随机采样子集在多数情况下表现已经相当强,但其问题是长尾大误差,且作者认为这种不稳定与现代基础模型本身有关,增加评测模型数量也未必消除。若这一结论成立,团队在模型选型、版本回归和榜单对比时,就不能只看一次采样的结果。

对用户/开发者/创作者的影响

对开发者而言,BestRand 的价值在于“便宜且更稳”的评测流程:如果想用开源代码搭建内部模型评估管线,这类方法可减少每次全量跑基准的算力和费用。对使用多模态、Agent 或 VLA 能力的团队,论文声称覆盖这些场景,但实际收益仍需按具体基准复核。普通用户不会直接接触该方法,但它可能影响模型发布方汇报能力的严谨程度。企业采购模型时,也应要求供应商说明评测子集选择和误差范围,而非只接受单个分数。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 GitHub 上的代码和数据集是否完整,能否复现摘要中的误差数据;二是 BestRand 在模型家族、分数区间和时间漂移下声称平均降低 21.8% 的 OOD 估计误差,是否能在独立评测中成立;三是主流评测榜单或模型发布方是否采纳更稳健的压缩方案,进而改变榜单分数的可比性。

来源:Hugging Face Papers

celebrityanime
celebrityanime
文章: 33110

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注