一句话看懂:PostHog 团队发文介绍用“决策模型”处理结构化小任务,在 Replay Vision 的隐私信息筛查中,98.7% 的会话摘要无需调用 Gemini,即可判断是否含个人身份信息。这提供了一个降低大模型成本与延迟的工程思路。
事件核心:发生了什么
2026 年 11 月,PostHog 团队(作者 Jina Yoon)在官方通讯中分享了他们对决策模型(如 Jev)的实验与生产经验。这类模型不生成自由文本,而是针对选项、打分或是否题返回带概率的结构化答案。根据文中数据,决策模型比前沿大模型便宜最多 444.6 倍、快 193.6 倍。在实际产品 Replay Vision 中,每条会话摘要先经过两个是/否判断:“是否出现真实人名”和“是否包含联系方式或证件信息”,任一得分达到 0.4 以上才交给 Gemini 重写并复审。生产环境中 98.7% 的请求完全跳过了大模型调用。
为什么重要
大语言模型倾向于输出冗长、自信但不可量化的回答,而决策模型把不确定性显式化成概率,便于工程系统设定阈值。PostHog 的案例说明,在分类、路由和简单判断这类任务上,小模型可以承担“守门员”角色,减少对大模型 API 的依赖。这呼应了近期 AI 应用层的务实趋势:不是所有环节都要用最大的模型,算力和推理成本可以通过分层设计显著下降。
对用户/开发者/创作者的影响
对开发者而言,可以直接借鉴“先用决策模型过滤、再调大模型”的管线模式。文中还提到把决策模型用于模型路由:让它在多个模型选项中给请求打分,选出最便宜且最可能一次成功的模型;以及用于输入已被扁平化、可表面判断的检查任务。需要注意,阈值不能跨模型、跨版本照搬——PostHog 在同一模型的 v1 和 v2 之间就发现阈值需要重新校准,并用人工标注数据在影子模式下验证。阈值选择取决于哪类错误代价更高:误报便宜就把阈值调低,打扰用户代价高则调高。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
值得关注的后续
可观察 PostHog 是否把这套决策模型接口进一步产品化,以及是否公开更多生产环境误判率数据;关注 Jev 等决策模型产品在价格、延迟和校准能力上的进展;同时留意其他 AI 应用团队是否跟进类似的“小模型守门 + 大模型兜底”架构。


