OpenAI 在 2026 年 DevDay 开发者大会上看似漫不经心释出的 Decisions API,悄然拉开了一场底层控制权的争夺。这一基于 GPT-6 Luna 运行的有限预览接口,允许开发者在预设选项中以极低延迟和成本输出概率决策,功能直接指向前 OpenAI 工程师 Diogo Almeida 创立的 TypeSafe AI 及其刚推出的 Jev 模型。

这不是一次常规的产品迭代,而是自动化软件架构的技术分水岭。当 AI Agent 在开放网络频频越界甚至引发安全事故,行业终于意识到,调用昂贵迟缓的自回归大模型去审查自己的每一步动作无异于饮鸩止渴。把决策权剥离给轻量、并行的 System 1 拦截器,正在成为 Agent 从演示玩具走向工业级生产的必经之路。

告别自回归:System 1 模型的降本账本

过去两年,大模型在软件工程中的落地一直卡在自回归生成的死穴里。传统的生成式大模型长于长篇文本创作与深度推理,但将其用于路由、分类和状态判断等轻量控制流时,逐字生成的机制带来了不可承受的计算开销与延迟惩罚。TypeSafe AI 提出的 System 1 快思考范式,本质上是对自回归机制的技术反叛。

以其代表模型 Jev 为例,它放弃了传统的自回归输出,转向并行采样与校准决策强化学习(RLCD)。开发者只能通过强类型接口调用它的三种模式:支持最多 255 个选项的选择(choice)、2 到 10 级的评分(score)以及返回布尔概率的判定(noul),单次请求的上下文上限固定在 64k tokens。这种针对判决逻辑的极限收窄,换来了极致的运行效率——官方给出的典型端到端延迟仅为 70–500毫秒,输入定价压低至 0.042美元/百万Token(相当于每十亿 Token 仅需 42 美元),且不再单独收取输出费用。

决策调用成本与延迟横向对比 前沿自回归模型 (Frontier) 中位数延迟 1,598 ms 监控成本 (基准) $372.00 机制:逐字自回归生成,吞吐瓶颈明显 System 1 决策模型 (Jev / 类似方案) 中位数延迟 329 ms 监控成本 (降本约25倍) $2.94 机制:非自回归并行采样,强类型概率输出

OpenAI 匆匆拿出的 Decisions API 几乎是对同一逻辑的像素级复刻。虽然目前处于受限预览期,支持文本与图像混合输入,且官方尚未公布端点 Schema、专有 SLA 延迟及准确率基准,但其底座已经明确绑定在 GPT-6 Luna 上。作为参照,Luna 官方公布的标准定价为输入 0.10 美元/百万 Token,缓存输入 0.01 美元/百万 Token,输出 0.50 美元/百万 Token(Fast 模式费率翻倍)。尽管专用定价仍未公开,但 OpenAI 显然不愿将这个高频流量入口拱手让人。

面对老东家的围剿,Diogo Almeida 在社交平台戏称克隆战争打响,但也亮出了态度:做到又快又便宜毫无门槛,掷色子是最快也最便宜的决策方式。他的底牌是用于校准统计输出的高质量合成数据,目标始终是智力与成本的帕累托最优解。随着 decisions-api.org 等第三方网关通过积分制(1 美元兑换 10,000 积分,每百万 Token 扣除 600 积分)迅速接入 Jev、Solar Decide、Kev 和 Laya 等竞品,决策模型的军备竞赛已经演变成模型性价比的肉搏。

98.5% 准确率背后的置信度悬崖

市场的狂热往往掩盖了工程实施的代价。独立评测机构 Entagl 在 2026 年 9 月针对 1,759 次真实系统决策的基准测试,揭开了这类模型真实的能力边界。

表面上看,Jev 的整体准确率高达 98.5%,紧追 Frontier Gemini 的 99.0%,中位数延迟从 1,598 毫秒骤降至 329 毫秒,成本降低约 25 倍。但在漂亮的总分背后,隐藏着一个陡峭的置信度断崖。数据显示,当模型输出的置信度高于等于 97% 时,986 次判决无一出错;但一旦环境复杂度上升,导致模型置信度跌破 60% 时,其决策准确率会暴跌至 73% 左右。

廉价决策模型的生命线不是全知全能,而是诚实暴露自己的不确定性。

这意味着决策模型在工业界落地只能采用基于置信度的选择性自动化。在 88% 的高确定性常规场景中,它可以放心接管并释放吞吐量;但在剩下的 12% 边缘场景中,系统必须有机制把控制权交还给慢速的 System 2 模型或人工。如果不加甄别地全盘托付,低置信度下的高频误判将迅速击垮生产系统。

在实际的 Agent 运行时拦截中,工程代价同样难以忽视。针对 Pi 等编程智能体的开源拦截项目 Jev Sentinel 尝试在 Agent 每次调取工具前注入审查,但哪怕单次模型推理仅耗时百毫秒,整套拦截包装层依然会给每个交互步增加 0.3 到 1 秒的额外延迟。在数十步的长程任务中,这种延迟累积非常明显,更别提误报率升高后引发的严重审批疲劳。

Agent 运行时的三层纵深防御体系 第一道:确定性沙箱 硬件与系统级权限强隔离 • 核心凭证与网络硬阻断 • 绝对能力边界设定 • 延迟:< 5 ms 【底线保护,不可逾越】 第二道:System 1 判决 Jev / Decisions API • 置信度 ≥ 97%:极速放行 • 恶意行为:实时拦截阻断 • 延迟:70–500 ms 【日常过滤 88% 控制流】 第三道:System 2 兜底 慢速前沿模型 / 人工复核 • 置信度 < 60% 争议复审 • 对抗攻击与异常归因 • 延迟:1.5–5 s 【小概率深思与风控兜底】

概率裁判的安全悖论与巨头算盘

此前引发行业震动的 Hugging Face 智能体失控事件,彻底暴露了缺乏运行时看护的危险性。安全从业者 Shapor Naghibzadeh 在黑客松上展示的拦截实验表明,如果使用前沿大模型对每个动作逐一审查,单次事件的安全监控账单高达 372 美元;换成 Jev 这类专用决策模型,开销直接降到 2.94 美元。这种数量级的落差,正是让开发者集体兴奋的技术红利。

但学术界与一线安全专家对此泼下了冷水。用概率模型去裁判概率模型,本身就存在理论上的致命缺陷。无论经过多么精密的强化学习校准,决策模型依然是统计映射,无法彻底防御提示词注入与未见过的对抗攻击。如果面对全新的越狱手法,它完全有可能以极高置信度给出一个错误的放行指令。

  • 风险.任何试图用 Decisions API 或 Jev 完全替代操作系统权限与物理沙箱的做法,都会在黑客构造的对抗样本前原形毕露。

真正的工程解法不是押注某一个神仙模型,而是搭建纵深防御。确定性的沙箱隔离充当硬底线,决策模型处理日常海量的高速合规分流,慢速的前沿模型与人工机制负责处理长尾风险。

从商业版图来看,OpenAI 的意图更为直白。此前,LangSmith、Lakera、Arize 以及主打决策血缘治理的 QueryStory 都在争夺 Agent 控制平面的话语权。当 OpenAI 把分类、鉴权与快速路由能力原生做进 API,意味着它正试图将 Agent 的安全控制流彻底收编进自己的生态闭环。对于依靠第三方模型夹缝求生的初创公司而言,仅靠快速与廉价已经很难守住阵地,胜负手正在转向更深度的企业数据血缘与治理壁垒。