arXiv论文提出FINCOSMOS金融智能体评测框架:150次会话无一通过

arXiv 新论文提出 FINCOSMOS,一个让金融智能体在开放网页环境中自行找数据、做回测、交付可验证结果的评测范式;在摘要披露的 150 次会话中,没有一次被系统接受。这为“看起来可信”的金融 AI 输出提供了一个更严格的检验视角。

一句话看懂:arXiv 新论文提出 FINCOSMOS,一个让金融智能体在开放网页环境中自行找数据、做回测、交付可验证结果的评测范式;在摘要披露的 150 次会话中,没有一次被系统接受。这为“看起来可信”的金融 AI 输出提供了一个更严格的检验视角。

事件核心:发生了什么

2026 年 11 月 6 日,arXiv cs.AI 发布论文摘要《FINCOSMOS: An Open-World Evaluation Paradigm for Agents in Finance》。作者指出,现有基准通常在任务、数据或时间线上“关闭世界”,等于把失败场景移除了。FINCOSMOS 的做法是:由模拟用户持有从组合语法中隐藏抽样的策略,只在被追问时披露;智能体没有现成数据,必须自己从 Web 获取数据,在数据截止时点下构建回测并交付可核验结果。

评分不依赖参考答案:程序验证时点一致性、重算所有报告指标,并将交付策略与隐藏规格比对;只有用户满意且 15 项否决检查全部通过,运行才被接受。摘要称,在 4 个编码智能体和 1 个无工具模型的 150 次会话中无一被接受,模拟用户签字的会话也全部未通过程序检查;智能体仅主动问出 54%—64% 的未披露细节,人类专家将 88.33% 的失败归因于智能体。加上 FINCOSMOS 反馈后,一个具备持久记忆的智能体学会了全部十项任务。以上仅基于论文摘要,未核验全文实验。

为什么重要

金融 AI 应用最危险的地方不是明显报错,而是“静默出错”:用户没要求的策略、未核实的数据、使用未来信息的回测,都能产出一份同样有说服力的报告。FINCOSMOS 把评测重点从“结果像不像”转向“过程能否被程序复算、口径是否点对点正确”,这更接近真实投研和合规场景。对智能体产品而言,隐藏策略、自主取数、时点约束和否决检查的组合,意味着评测会更多考察需求澄清、数据溯源与可验证交付,而不是单轮问答能力。

对用户/开发者/创作者的影响

对开发金融智能体的团队,值得注意的不是榜单名次,而是接口设计:智能体是否被鼓励向用户澄清策略、是否记录数据来源与抓取时间、回测引擎能否复现每个指标。对普通用户,这提示当前金融 AI 报告仍需要人工复核数据截止时间和策略口径。对企业和创作者,未来采购或引用 AI 金融分析时,可要求提供可复算的中间产物,而非只看结论。目前公开信息显示,该工作属于评测方法研究,尚不是已上线的产品或服务。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

可继续观察:论文全文是否披露更多任务细节与失败类型;持久记忆智能体“学会全部十项任务”能否跨任务泛化;以及是否有团队将该评测思路转化为开发者可用的 API 或开源工具。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 33160

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注