NVIDIA NeMo 新流程:从 Agent 失败轨迹生成评测并修复 harness

NVIDIA 发布 NeMo Compass、NeMo Eval Author 与 NeMo Relay 的 Agent 优化教程,演示如何把生产轨迹中的失败转化为可复现评测,再据此修改 Agent 的指令和 harness 代码。

一句话看懂:NVIDIA 发布 NeMo Compass、NeMo Eval Author 与 NeMo Relay 的 Agent 优化教程,演示如何把生产轨迹中的失败转化为可复现评测,再据此修改 Agent 的指令和 harness 代码。

事件核心:发生了什么

2026 年 11 月 4 日,NVIDIA 在开发者博客中介绍了一套面向领域 Agent 的完整优化闭环。教程基于 NemoClaw blueprint,使用 Hermes Agent 在 OpenShell 沙箱中运行,并接入 42 条虚构公司的生产轨迹记录。

流程分三步:首先由 NeMo Compass 分析轨迹,结合 ETHOS.md 中定义的预期行为,标记出工具调用异常、行为偏离等问题;示例中 Agent 未获用户确认就调用了 send_message。随后 NeMo Eval Author 借助 Codex 或 Claude Code 等编码代理生成 Harbor 评测及校验器,把这次失败固化为可重复执行的测试。最后开发者修改 Agent 指令与 harness,并在开发任务和留出任务上对比结果。

NVIDIA 称其内部基准上,NeMo Compass 的全信号组合在数千条轨迹中发现的异常,多于一个被分配同类任务的编码代理。目前公开信息显示,该说法源自厂商内部测试,尚缺第三方复现。

为什么重要

通用基准分数很难解释 Agent 在具体业务里为何出错。NVIDIA 把优化对象从模型权重扩展到提示词、工具描述、路由规则、记忆、技能和控制流等 harness 层面,等于承认生产可靠性往往由工程细节决定,而不是只靠换更大模型。

这套流程的另一价值是把评估前移:NeMo Eval Author 可以依据 ETHOS.md 和工具定义,在生产数据不足时先生成评测。对企业而言,这让 Agent 迭代更接近软件工程里的回归测试,而不是凭感觉调提示词。

对用户/开发者/创作者的影响

对开发者来说,教程给出了可操作的排障路径:先读轨迹、再定位 harness 问题、再写测试、再对比修复效果。对正在把 Agent 接入聊天、邮件、文件和工单系统的团队,这意味着 MCP 工具调用权限和人工确认机制需要被纳入评测,而不只是产品规范。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对普通用户,直接变化有限;但企业 Agent 若能减少“未经确认就执行”这类错误,会直接影响使用信任。创作者若用 Agent 批量处理内容,也应关注工具调用权限与评测覆盖。

值得关注的后续

一是 NemoClaw blueprint 与 Eval Author 是否从教程代码走向更稳定的产品化能力;二是评测结果能否在真实业务数据上复现,而非仅限示例中的 42 条轨迹;三是其他 Agent 框架是否跟进“失败轨迹转评测”的工程实践。

来源:NVIDIA Generative AI Blog

celebrityanime
celebrityanime
文章: 32629

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注