Perplexity 刚刚把自家搜索管线里的“分拣中枢”拆出来开源了。以 Apache 2.0 协议发布的 pplx-decider-v1.3（基于 Qwen3.8-27B，Hugging Face 标 26B）和蒸馏版 pplx-decider-flash-v1.3（基于 Qwen3.5-4B，Hugging Face 标 5B）不写半个字的生成式回答，只通过单次前向传播读取特定标记隐藏状态，直接返回是/否、多选和打分题的选项概率，并新增了提取精确文本起止偏移量的 Locate 功能。官方 API 定价直接掀了桌子：输入每百万 Token 仅收 0.02 美元（Flash 版 0.01 美元），输出完全免费。
这组模型切中的是 AI 工程管线里最烧钱的隐形环节。在 RAG 搜索、Agent 路由和内容审核中，成百上千次高频调用的本质都是分类、重排与抽取，但多数团队仍在用自回归大模型拼凑 JSON，忍受高延迟和输出计费。Decider v1.3 在官方自测的 63 项查询分类任务中拿到 91.6% 平均准确率，72 项检索重排任务 nDCG@10 达 83.99，一口气反超专用模型 Qwen3-Reranker-8B（82.18）与闭源竞品 TypeSafe Jev 1.14（81.75），试图用一套开源权重同时替代传统分类器、独立 Reranker 和 NER 小模型。
掩码隔离消除串扰，但外挂 LoRA 暴露多任务暗伤
把生成式大模型改造成高吞吐判别器，最棘手的工程隐患是“多题串扰”。Decider 允许在一次请求里塞入一段共享上下文（state）和多个问题，单次前向传播并行吐出所有答案；但在上一代 v1.2 中，所有问题在注意力层彼此可见，前一道题的措辞或选项顺序一换，后一道题的概率就会跟着漂移。
v1.3 对注意力掩码动了刀：全注意力层改为双向（非因果）运行，共享状态可以看到所有问题，但每个问题只能看到共享状态和它自己。这种隔离式掩码直接把 372 道多选题的选项重排或换标答案翻转率压到 0.27%，而闭源竞品 Jev 1.14 的翻转率高达 2.69% 至 4.84%。
但当 Perplexity 试图把战线从“选出概率”拉长到“圈出原文”时，架构的缝合感就藏不住了。新增的 Locate 功能针对命名实体识别（NER）、隐私数据（PII）脱敏和抽取式问答，能返回匹配文本、起止字符位置及置信度得分，在 17 项域外任务上拿下 69.0 分（Flash 为 63.6 分），把 Liquid d1（43.3）和 GLiNER large v2.5（33.6）甩在身后。
问题在于，69.0 分也是 Decider v1.3 全表最低的单项成绩，且实现方式颇为拧巴。研发团队冻结了主干网络和决策头，为每个抽取字段插入 <|locate|> 标记，再外挂一个独立的 span head 与 LoRA 适配器。官方技术文档承认，这个 LoRA 适配器必须保持未合并状态，因为一旦合并进主干权重，原有的分类决策准确率就会下跌。
判别与抽取在底层表征上依然互斥，单模型通吃全管线仍是妥协方案。
- 风险.在生产环境调用 Locate 有三道硬门槛——仅支持非空纯文本（不支持图像）、单次请求最多 128 个问题，且一旦在本地推理开启
fast=True加速模式，Locate 功能就会被直接禁用。
拆穿 26.47 美元成本幻觉，算清自建与 API 的真账
原报道与官方博客最抓眼球的一组数字，是处理 100 万次生产请求仅需 26.47 美元（Flash 为 13.24 美元），不到竞品 Jev 1.14（68.10 美元）的四成。但如果团队直接拿着这个数字去报预算，大概率会踩坑。
交叉核对官方技术文档可以发现，26.47 美元并非 API 账单，而是特定工作负载下的本地运行测算成本，且官方并未公开 GPU 折旧核算标准与对等延迟基准。与此同时，宣传中“100 万次真实请求（含 2,318,887 个问题）高达 93.98% 的准确率”，实际衡量的是与前沿大模型裁判（LLM judges）生成结果的一致率，而非人类标注真值。
真正决定工程团队“换不换、怎么用”的，是 API 定价与本地显存门槛之间的剪刀差：
| 对比维度 | Decider v1.3 | Decider Flash v1.3 | Jev 1.14 | Qwen3-Reranker-8B |
|---|---|---|---|---|
| 参数与协议 | 27B (HF标26B) / Apache 2.0 | 4B (HF标5B) / Apache 2.0 | 未公开 / 闭源托管 | 8B / Apache 2.0 |
| 本地显存门槛 | ~49 GiB BF16 + 工作内存 | ~8.5 GiB BF16 + 工作内存 | 仅限云端 API | 开源自托管 |
| API 价格 (每1M输入) | $0.02（输出免费） | $0.01（输出免费） | $0.042（输出免费） | 无官方计费对比 |
| 检索重排 nDCG@10 | 83.99 | 未公布 | 81.75 | 82.18 |
| 百万请求本地测算 | $26.47 | $13.24 | $68.10（API 测算） | 未公布 |
对于打算本地私有化部署的团队，最大的障碍是官方未提供任何量化版本。27B 的主力模型加载 BF16 权重就得吃掉约 49 GiB 显存，算上工作内存，单张消费级显卡根本塞不下；而本地默认上下文虽设为 32,768 tokens，但模型训练序列长度上限其实是 30,720 tokens，且输入永不截断，超长文本本地推理极易爆显存。如果退而求其次自建 8.5 GiB 显存的 4B Flash 版，又得接受它在金融、编程和法律三个高价值垂直领域落后于 Jev 1.14 的能力断层。
- 建议.除非有严格的数据不出域合规要求，直接调 Perplexity Decisions API（支持最高 256K 上下文，243K tokens 极限长文本在 v1.3 上耗时 16 秒、Flash 耗时 5 秒）比租用 80G 显存卡自建划算得多。
当一个开源且输出免费的 27B 决策模型在重排和抽取上同时压制专用小模型，独立 Reranker 厂商与闭源托管商的溢价空间已被大幅压缩。但 Perplexity 自报的跑分究竟有多少主场水分，接下来只需紧盯已将 Decider v1.3、Flash v1.3 与 Jev 1.14 同步纳入测试的第三方独立榜单 Artificial Analysis Decision Index v2.1，看其在同等硬件与延迟约束下的真实吞吐表现。