BuySideFlow 基准发布:投资研究 AI 代理的时点有效性合格率不足四成

arXiv 新论文提出 BuySideFlow,用 408 道中文投资研究任务检验 LLM 代理能否遵守披露截止时点,结果显示九种代理配置的结果准确率仅 16.2% 至 36.8%。

一句话看懂:arXiv 新论文提出 BuySideFlow,用 408 道中文投资研究任务检验 LLM 代理能否遵守披露截止时点,结果显示九种代理配置的结果准确率仅 16.2% 至 36.8%。

事件核心:发生了什么

2026 年 11 月 11 日,arXiv cs.AI 收录了一篇新论文,提出名为 BuySideFlow 的基准。该基准包含 408 个由从业者设计的中文任务,覆盖股票、基金、固定收益和宏观经济,数据来自一个持牌生产金融数据库的固定快照。论文要求代理在生成 SQL 及 SQL-Python 工作流时,执行信息披露截止规则,并选择正确的历史状态和记录版本。作者提供了可执行的参考答案,以及按时间类错误分类的体系。论文在全部任务上评测了九种代理配置,结果准确率在 16.2% 至 36.8% 之间。作者还对 100 个共享任务上的 900 次运行做了专家审计,发现通过结果检查的 380 次运行中有 193 次存在时点违规,占 50.8%。

为什么重要

投资研究对“时点有效性”高度敏感,回测和决策只能使用当时已披露的信息。论文用一个关键数据揭示:结果答对并不等于时间上合法。超过一半通过结果检查的运行仍存在时点违规,说明仅靠最终答案比对难以评估 AI 代理在金融场景的可用性。这对金融 AI 应用、大模型代理评测和 RAG 数据检索都提出了更严格的审计要求,也意味着金融机构在采购或自建投研代理时,需要把时间规则校验作为独立环节,而不是只看输出准确率。

对用户/开发者/创作者的影响

对开发者而言,这篇论文提示:构建面向投研的 AI 应用时,需要在 SQL 生成、数据检索和中间结果层面加入披露截止和版本选择校验,仅依赖模型推理不够。对金融数据平台和闭源模型厂商,时间感知的数据接口与审计日志可能成为差异化能力。对普通用户和创作者,这类基准更多是间接信号:AI 生成的财务分析仍需人工核验数据口径和时点,不能把“看起来正确”当成可靠结论。目前公开信息显示,该基准尚属研究阶段,摘要未提及开源库或在线评测服务。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文是否公开任务集、可执行参考答案和审计工具,从而让开发者复现并扩展评测。二是后续研究能否把时点校验嵌入代理工作流,而不仅作为事后审计。三是金融数据供应商和模型厂商是否会跟进类似基准,形成企业采购时的评估标准。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 34217

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注