一句话看懂:一项 arXiv 新论文用“写作模型+评分模型”三轮迭代,测试代理式 AI 能否独立完成从下载数据到写出短论文的完整数据科学项目,结果显示反馈能显著提分,但效果高度依赖模型分工。目前公开的只有摘要,全文实验尚未核验。
事件核心:发生了什么
该研究(arXiv:2611.05548v1,2026年11月5日发布)让带特定工具的“写作模型”完成一个端到端数据科学项目:下载、清洗、分析数据集,并写出一篇短文。项目实际运行后由“评分模型”打分,写作模型再据此修改,共进行三轮。
测试覆盖 Anthropic、OpenAI、Google、DeepSeek 和 Z.AI 五家开发者的七款模型,每款模型既当写作方也当评分方,形成 49 组写作-评分配对,每组跑三次。147 份初始提交中,107 份能成功运行并渲染。最终轮反馈后,平均分从 59% 升到 76%。
分写作模型看,提分幅度从 Anthropic Opus 5.5 的 3 个百分点到 Haiku 4.5 的 46 个百分点不等;分评分模型看,从 Google Gemini 3.8 Flash 的 13 个百分点到 Haiku 4.5 的 32 个百分点不等。模型自评时,分数平均比其他模型给的高约 9 个百分点;轮次间差异约有一半落在评分模型自身的噪声范围内。
为什么重要
这把“AI 做科研/数据分析”的讨论从单次生成推进到闭环迭代:执行、打分、修改本身就是代理式 AI 的核心工作流。结果显示,反馈是目前提分最有效的变量,但单纯给更多时间或工具调用预算,只对部分模型有明显帮助。
另一个值得注意的结论是,弱模型通常无法通过评分角色提升强模型的产出。这意味着多模型流水线的价值不在“随便凑几个模型”,而在角色与能力的匹配,这对评估代理系统有直接参考意义。
对用户/开发者/创作者的影响
对开发者,若要把大模型用于自动化分析或报告生成,值得把“独立评分+多轮修订”设计进流程,而不是一次调用就交付;同时要注意自评偏高,最好交叉使用不同厂商的模型做评审。对研究者和内容创作者,结论仅限摘要所述的三轮设置和特定任务,不应理解为模型已能独立产出可发表成果。企业采购时也可把“迭代成本”和“评分可靠性”列为比单次跑分更实际的指标。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
一是论文全文是否公开更细的评分标准和失败案例;二是评分噪声对结论的削弱程度,是否需要更严格的多次采样;三是这种写作-评分循环是否会进入实际的数据分析工具与 API 产品,以及跨厂商评审的成本是否可控。
来源:arXiv cs.AI


