OpenAI 公布了一条从 GPT‑3.5 延续至更新模型的内部预训练曲线,对数困惑度从约 0.99 降到 0.8 以下。公司提议把困惑度纳入行业共同安全标准,用来讨论前沿模型何时该放慢训练。眼下,这条曲线能说明 OpenAI 在固定口径下进步了多少;要把它写进安全流程,还得证明别家能测出可比的数,以及这个数能预警什么。

OpenAI 公布的是内部代码快照上的成绩

交叉熵衡量模型给真实的下一个 token 分配概率的好坏,困惑度是交叉熵取指数后的结果。OpenAI 报告的是对数困惑度:GPT‑3.5 约为 0.99,GPT‑4 约为 0.91,更新模型已低于 0.8。评估用的是固定留出集,来自 OpenAI 内部代码库的一份快照。文章交代了来源,却未公开快照或完整协议,外部无法独立复测。

<svg viewBox='0 0 760 220' width='100%' height='220' role='img' aria-label='OpenAI 内部代码留出集上的对数困惑度'>
<rect x='1' y='1' width='758' height='218' rx='16' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='30' y='42' font-size='19' font-weight='700' fill='#b25a3a'>代码集对数困惑度</text>
<line x1='30' y1='58' x2='730' y2='58' stroke='#e2dccf' stroke-width='1'/>
<rect x='30' y='82' width='220' height='108' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='270' y='82' width='220' height='108' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='510' y='82' width='220' height='108' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='140' y='135' text-anchor='middle' font-size='34' font-weight='700' fill='#2c2822'>≈0.99</text>
<text x='380' y='135' text-anchor='middle' font-size='34' font-weight='700' fill='#2c2822'>≈0.91</text>
<text x='620' y='135' text-anchor='middle' font-size='34' font-weight='700' fill='#b25a3a'>&lt;0.8</text>
<text x='140' y='164' text-anchor='middle' font-size='14' fill='#7a7266'>GPT‑3.5</text>
<text x='380' y='164' text-anchor='middle' font-size='14' fill='#7a7266'>GPT‑4</text>
<text x='620' y='164' text-anchor='middle' font-size='14' fill='#7a7266'>更新模型</text>
</svg>

下游榜单会被做满,固定留出集却能持续追踪预训练。Kaplan 等人发现,留出集损失随参数量、数据量和训练算力大致按幂律变化;Hoffmann 等人随后重新估计了固定算力下模型规模和训练数据量该怎么分配。这些研究能帮助实验室估算训练损失,却没给出一条通用曲线,说明损失降到哪就能做成什么任务。

数学能力有没有突跳,要看两种得分

OpenAI 报告,换用对数困惑度约为 0.76 的模型后,在开放数学问题上取得了突破性结果。这把两件事放在了同一时间线上,却没有证明是损失下降带来了突破。部分研究发现,预训练损失与下游任务损失在特定设置下有可预测的关系,但即使模型给正确答案分配了更高的概率,任务成功率仍可能停滞,评分甚至可能下降。后训练和推理预算也会改变同一底座能做成什么。

Schaeffer 等人用同一批模型输出重新评分,发现允许给部分得分后,一些看似突跳的成绩变成了渐进曲线。检验 OpenAI 的数学案例,可以用相邻训练检查点做同一套题,控制后训练方案、提示和推理预算,对同一批输出同时记录部分得分与独立验证的完整解题率。前者可能稳步上升,后者却到某个阶段才陡升。对需要可验证证明的研究者而言,这仍是有意义的变化。

跨实验室复测,统一单位还不够

不同分词器切出的 token 长短不同,原始每 token 困惑度不能直接横比。允许各家保留原生分词器,再把总负对数似然换成每字节比特数,可以统一分母。要让分数测的是同一件事,还得锁定共享语料的版本,统一预处理和上下文规则,分别报告代码、通用文本和不同语言的成绩。否则,仅仅改变各类语料的权重,就可能改变总分。

污染审计解决的是另一个问题:训练数据是否与评估语料重叠。换算单位或统一题集都不能排除模型见过原文。实验室要让独立评估者拿到足以复测的检查点、语料和协议,还得安排受控访问,处理训练数据保密与评估集泄露的风险。

困惑度可以触发复核,停训要有别的证据

Pachocki 提出的 0.68–0.70 是对新能力可能出现位置的外推,尚未经过跨实验室验证。他说最早在 2027 年可能看到预训练算法研究加速,也是从数学案例推演出的情景。OpenAI 与 Anthropic 在 2025 年 8 月互做过安全评估,证明跨实验室测试已有先例,但没有由此建立共同的困惑度标准。

<svg viewBox='0 0 760 210' width='100%' height='210' role='img' aria-label='损失指标触发独立复核,能力和防护证据支撑停训或放行'>
<rect x='1' y='1' width='758' height='208' rx='16' fill='#fbf9f4' stroke='#e2dccf'/>
<text x='30' y='42' font-size='19' font-weight='700' fill='#b25a3a'>从预警到处置</text>
<line x1='30' y1='58' x2='730' y2='58' stroke='#e2dccf' stroke-width='1'/>
<rect x='30' y='86' width='190' height='94' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<rect x='285' y='86' width='190' height='94' rx='10' fill='#fbf9f4' stroke='#b25a3a'/>
<rect x='540' y='86' width='190' height='94' rx='10' fill='#fbf9f4' stroke='#e2dccf'/>
<line x1='231' y1='133' x2='267' y2='133' stroke='#7a7266'/>
<polygon points='267,128 276,133 267,138' fill='#7a7266'/>
<line x1='486' y1='133' x2='522' y2='133' stroke='#7a7266'/>
<polygon points='522,128 531,133 522,138' fill='#7a7266'/>
<text x='125' y='124' text-anchor='middle' font-size='18' font-weight='700' fill='#2c2822'>损失进入预警区</text>
<text x='125' y='151' text-anchor='middle' font-size='13' fill='#7a7266'>共享口径</text>
<text x='380' y='124' text-anchor='middle' font-size='18' font-weight='700' fill='#b25a3a'>独立复核</text>
<text x='380' y='151' text-anchor='middle' font-size='13' fill='#7a7266'>加测能力与防护</text>
<text x='635' y='124' text-anchor='middle' font-size='18' font-weight='700' fill='#2c2822'>停训或放行</text>
<text x='635' y='151' text-anchor='middle' font-size='13' fill='#7a7266'>按证据决策</text>
</svg>

相比 OpenAI 提议用什么测进展,Dario Amodei 的控速方案更关心谁能验证。他主张让独立评估者持续进入前沿实验室,推动开发者协调标准和可验证的国际协调,没有指定某个损失值作为停线。对监管者而言,可操作的分工是让损失进入约定区间时触发复核,再用危险能力测试和防护有效性证据,分别决定训练能否继续、模型能否部署。接下来要看的,是有无共享评估集和跨实验室复测结果,以及规则是否明确写出谁来验证、什么证据才够放行。