Perplexity 发布 Decider v1.3 开放权重决策模型,新增 Locate 精确片段抽取

Perplexity 于 2026 年 11 月 13 日发布 pplx-decider-v1.3 与轻量版 Flash v1.3,在 Apache 2.0 许可下开放权重,并首次加入按类型或指令抽取原文片段的 Locate 功能。它输出的是选项概率而非生成文本,代表了“判别式模型”在产品化上的又一步。

一句话看懂:Perplexity 于 2026 年 11 月 13 日发布 pplx-decider-v1.3 与轻量版 Flash v1.3,在 Apache 2.0 许可下开放权重,并首次加入按类型或指令抽取原文片段的 Locate 功能。它输出的是选项概率而非生成文本,代表了“判别式模型”在产品化上的又一步。

事件核心:发生了什么

Decider 是 Perplexity 的决策模型家族,思路接近 TypeSafe 的 Jev:每次请求由一个共享“状态”加若干带标签选项的问题组成,模型对每个选项返回概率,而不是写一段话回答。v1.3 大模型基于 Qwen3.8-27B,Flash 基于 Qwen3.5-4B 并由大模型蒸馏而来。权重以 Apache 2.0 发布在 Hugging Face,同时可通过 Perplexity Decisions API 和 OpenRouter 调用。

技术上有三处变化:输出层从原语言模型头裁剪出 A/B/C 等选项词,经线性决策头读<|marker|> 处的隐藏状态;全注意力层改为双向;问题之间的注意力由“彼此可见”改为“每题只看到状态和自身”,以减少答案漂移。Locate 则新增 <|locate|> 标记和 span 适配器,返回带起止偏移的精确文本,面向 NER、PII 检测和抽取式问答。

为什么重要

大模型应用里的“分类、判断、重排、抽取”长期靠生成模型硬答,成本高且结果不稳定。Decider 把这类任务做成概率输出,配合 0.27% 的答案翻转率(素材称 Jev 1.14 为 2.69%–4.84%),对需要可复现判断的生产系统更有吸引力。开放权重则意味着企业可自托管,不必把敏感数据送进闭源 API。

需要说明:素材中的性能数字均为 Perplexity 自报,尚无第三方复现。目前公开信息显示,它在 63 项查询分类任务上平均准确率 91.6%,72 项检索重排任务 nDCG@10 为 83.99,Locate 在 17 项域外任务上平均 69.0。

对用户/开发者/创作者的影响

开发者可按算力选型:v1.3 的 BF16 权重约需 49 GiB 显存,Flash 约 8.5 GiB,且暂无量化版本。API 输入上限 256K token,本地默认 32,768。价格上 v1.3 为每百万输入 token 0.02 美元、输出免费,Flash 为 0.01 美元。做内容审核、表单归类、检索重排或从长文中抽字段的团队,可以先用 API 验证,再评估自托管。Locate 目前只支持文本,图像仅用于判断类问题。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是第三方能否复现其基准,尤其是 Locate 与 Jev 的实际差距;二是自托管社区是否推出量化版本,降低 49 GiB 的门槛;三是 TypeSafe 等竞品是否跟进开放权重或调整定价。

来源:MarkTechPost Research

celebrityanime
celebrityanime
文章: 34886

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注