The most common mistake teams make is to treat evals as an additional QA step once the agent is built. AI products are fundamentally different. Your evals are your product spec.

AI 从业者 Madhu Guru 在 X 上指出,团队最常见的错误是把评估(evals)当成 agent 做完之后的附加 QA 步骤;他认为 AI 产品本质不同,评估本身就是产品规格说明书。这条观点引发了对“评估驱动开发”的讨论。

一句话看懂:AI 从业者 Madhu Guru 在 X 上指出,团队最常见的错误是把评估(evals)当成 agent 做完之后的附加 QA 步骤;他认为 AI 产品本质不同,评估本身就是产品规格说明书。这条观点引发了对“评估驱动开发”的讨论。

事件核心:发生了什么

2026 年 10 月 6 日,Follow Builders 社区的 Madhu Guru 在 X 发布了一段简短判断:多数团队把 evals 放在 agent 开发完成之后,当作质量检查环节来跑。他给出的替代思路是——对于 AI 产品,evals 不应该事后补,而应该在最前面定义清楚“什么叫做对”,它承担的是产品规格的角色。

这条帖子获得了约 3,112 次浏览和数十次互动,评论区出现了几个有代表性的回应。用户 @ItsGoharr 直接总结为“evals 才是产品,模型只是依赖项”;@iafineden 分享了自己做语言学习应用的经验:第一版评估只检查解释是否正确,真正改变产品的评估是检查系统是否会跳过学习者已经掌握的单词;@GoecolJohn 则强调,评估不只是验证产品能不能用,而是定义“能用”到底意味着什么。

为什么重要

传统软件可以用单元测试和人工验收来兜底,但大模型输出是概率性的,同一个 prompt 在不同上下文、不同模型版本下表现都会漂移。当团队把 evals 当 QA 用,通常意味着规格是模糊的,测试只能覆盖开发完成后能想到的边界,而真正影响体验的失败模式——比如多轮对话里丢失指令、工具调用参数错误、检索结果与回答不一致——往往在上线后才暴露。

把 evals 前置为产品规格,实际上改变的是研发流程:先定义任务成功标准和失败样例,再决定用哪个模型、怎么设计 prompt、是否需要微调或增加检索与工具调用。这也解释了为什么模型可以被替换,而 eval 集合和判断标准才是团队的长期资产。目前公开信息显示,这仍是工程实践层面的方法论讨论,并非某家公司的官方产品发布。

对用户/开发者/创作者的影响

对开发者而言,这意味着在调用 API、搭建 agent 或接入图像生成、语音等能力时,第一份该写的文档可能不是 PRD,而是评估集:包含正常样例、边界样例和已知失败样例,并能自动重复运行。模型升级、换供应商或调整推理参数之后,靠同一套 evals 判断是否真的变好,而不是只看 demo 观感。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对产品团队和企业采购方,评估标准会直接影响选型与验收:如果一个 AI 应用无法说明自己的成功指标和回归测试方式,它在生产环境中的风险更难被量化。对内容创作者和独立开发者,@iafineden 那条评论提示了一个更实际的角度——最有价值的评估往往不是“答案对不对”,而是“这个产品有没有做它该做的事”。

值得关注的后续

一是这套“evals 即规格”的方法能否沉淀为可复用的开源评估框架或工具链,降低小团队的门槛;二是模型厂商是否会把评估能力和回归测试进一步做进 API 与平台侧,让评估像日志一样默认存在;三是当评估标准成为产品核心资产后,团队如何管理版本、防止评估集过拟合,这可能是下一轮讨论的焦点。

来源:Follow Builders · X · Madhu Guru

celebrityanime
celebrityanime
文章: 27542

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注