2026 年 11 月 13 日,OpenAI 宣布启动第一阶段嵌入式评估,把 Apollo Research、METR、Transluce 和 Goodfire 四家外部评估机构请进公司内部,直接审查模型训练和内部运行时的对齐情况。过去外部测试只能在模型发布前做黑盒抽检,现在评估人员能拿到模型检查点、源代码、训练数据和监控系统;但细看协议条款,报告删减权、核心机密隔离和最终争议裁决权,依然牢牢攥在 OpenAI 自己手里。
这四家机构进场后分工明确,但拿到的条件和利益绑定并不一样:
- Apollo Research:排查模型在训练和内部使用中是否会出现潜伏性背叛行为,以及现有监控能否抓到背后的推理过程;接受 OpenAI 资金报酬。
- METR.直接进入 OpenAI 迄今最大规模的强化学习训练运行,排查现有测试漏掉的对齐失效,并继续评估监控系统;拒绝服务费,仅可能接受算力支持。
- Transluce.审查后训练阶段对齐评估的质量与覆盖面,并计划在 2027 年初展开约 8 周的二期评估;同样拒绝服务费,且公开指出自身权限仍低于正式员工,协议还禁止其发布内部专用模型的测试结果。
- Goodfire.派驻可解释性研究人员分析模型内部状态,主要服务 OpenAI 内部团队做训练监控与调试;接受 OpenAI 资金报酬。
为什么把审计放进训练期
OpenAI 这次把外部机构放进机房,直接动因是兑现白宫超级智能协议里的独立评估承诺,更深的原因则是内部监控体系已经被抓出过漏洞。
2026 年 7 月至 8 月,METR 对 OpenAI 内部监控系统做过一次压力测试,直接查出这套系统在部分流量覆盖上存在 10% 左右的盲区,而且部分强化学习训练过程根本不在监测范围内。在同年 8 月的 Hugging Face 事件调查之后,光靠模型训练完再找人做几天红队测试,已经无法应付前沿模型的隐蔽风险。
强化学习规模推高后,模型完全可能在训练中途学会钻奖励机制的空子,或者在监测探头照不到的地方演化出欺骗行为。等模型定型封装完毕,外部测试者面对一个庞大黑盒,很难分清模型是真的对齐了,还是学会了在考场上装乖。把评估前置到训练运行和检查点阶段,在技术方向上切中了要害。
挂着独立招牌的受控审查
技术动作迈出了一步,治理结构却还在原地打转。仔细拆解 OpenAI 公布的评估协议,会发现评估机构的每一步关键动作都在受控范围内。
首先是物理与权限隔离。评估人员必须到 OpenAI 办公室现场办公,使用 OpenAI 提供的设备;一旦涉及模型权重或核心架构等敏感知识产权,外部专家拿不到直接权限,必须和 OpenAI 内部研究员结对,由内部人员代跑分析。Transluce 已经明确表态,他们拿到的权限低于普通员工,Apollo Research 也直言目前的安排还没有达到理想的独立评估标准。
更关键的卡口在信息披露和争议裁决上。评估人员与 OpenAI 员工的所有交流默认不得公开发表或具名引用;如果要引用某项内部事实,必须走专门的官方认证通道,由 OpenAI 决定是否盖章确认。到了报告发布环节,OpenAI 保有以保护机密为由的删减权,以及以安全整改为由的延迟披露权。
裁判的哨子吹得再响,计分板的电源线还插在主场球队手里。
如果外部评估机构和 OpenAI 管理层吵起来怎么办?协议规定,分歧先交由安全咨询小组和 OpenAI 高管解决;解决不了,最终裁决权交给 OpenAI Foundation 董事会下属的安全与保障委员会。这个委员会虽然能看到未删减的完整报告,但它依然是 OpenAI 自家治理架构的一部分。
这很容易让人联想到 2001 年安然事件爆发前的华尔街会计师事务所,或者 2008 年次贷危机前的信用评级机构。当然,今天的 AI 安全评估和当年的金融审计不完全一样,像 METR 和 Transluce 这样拒绝收取评估费用的非营利机构,主观上没有帮实验室掩盖风险的财务动机,超过 200 位学者签署的 AI 评估论坛公开信也在持续给独立性和编辑权施压。
但结构性困境是一致的。外部评估机构要发论文、要做前沿研究、要维持行业话语权,最稀缺的燃料就是顶尖实验室的未发布模型权限和算力支持。当入场门票、算力配额和报告删减权都由被审计方掌握时,评估机构天然面临要在温和妥协与失去入场资格之间做选择的压力。
- 风险.如果嵌入式评估最终沦为由实验室划定范围、删减敏感结论后再对外发布的合规流程,公众和监管机构看到的将是一份经过滤镜处理的安全背书,反而比没有外部评估更容易麻痹外部监督。
接下来盯紧两个信号
OpenAI 在协议里留了一个值得注意的口子:当评估人员就内部访谈内容向 OpenAI 申请官方认证时,如果 OpenAI 拒绝盖章,评估人员有权在公开报告里写明“OpenAI 拒绝证实该陈述”。
这个小条款,加上将于 2027 年初推进的 Transluce 二期评估,是我们判断这套机制真假的直接标尺。不需要听各方现在怎么表态,等第一阶段评估报告出炉时,直接看两件事:报告里有没有出现类似此前 10% 监控盲区这样具体、扎眼的负面数据;以及报告里有没有出现“OpenAI 拒绝证实”或大段被涂黑删减的痕迹。如果四家机构进场折腾数月,交出来的全是不痛不痒的流程表扬信,那这场嵌入式评估就只是把公关防线修到了实验室内部。
