据《金融时报》报道,OpenAI在报道发布前一个月底解散了风险准备团队。这个团队原本负责评估前沿模型是否可能造成严重危害,并研究降低风险的办法。相关职责没有全部取消,而是按生物安全、网络安全等领域拆分,转入现有团队。
这项调整短期不会改变ChatGPT的功能或价格,也不足以证明OpenAI停止安全评估。真正的变化在组织层面:原本集中处理极端风险的团队不再独立存在。职能仍在,不代表审查力度、预算和发布话语权原样保留。
OpenAI撤销独立团队,风险评估改由各业务线承担
OpenAI在2023年12月公开《Preparedness Framework》,把网络安全、化学与生物风险、说服能力、模型自主性等列为重点风险类别。准备团队承担的任务,是在模型发布前识别高危能力,并提出防护措施。
《金融时报》此次报道指向的是组织变化,而非框架文件被废止。两者可以同时成立:公司仍可沿用风险等级和测试流程,却不再保留原来的独立团队。
因此,用“官网仍有安全框架”反驳“团队被解散”,证据并不充分。更准确的判断是:集中编制被撤销,专业工作被拆分;安全职能是否收缩,目前还要看人员、预算和权限如何转移。
| 组织方式 | 主要优势 | 主要限制 |
|---|---|---|
| 独立准备团队 | 能统一评估跨领域风险,与产品发布保持一定距离 | 容易与产品团队脱节,落地速度较慢 |
| 生物、网络等团队分别负责 | 专业人员更接近具体模型和应用场景 | 风险容易被切碎,跨领域问题可能无人统筹 |
| 只保留框架和流程 | 对外标准较稳定,便于形成系统卡等文件 | 文件无法说明审查者是否有预算、时间和否决权 |
OpenAI没有在报道所述信息中充分交代三个问题:原团队成员去了哪里,新的负责人向谁汇报,以及风险评估能否延缓模型发布。在这些信息公开前,把调整称为“安全工作正常并入业务”或“OpenAI彻底放弃安全”,都下得太早。
安全团队接连重组,问题落在谁能踩下发布刹车
这不是OpenAI第一次撤销独立安全组织。公司在2023年7月成立Superalignment团队,计划研究如何控制能力超过人类的AI系统;2024年5月,随着联合负责人Ilya Sutskever和Jan Leike离开,该团队被解散,成员转入其他研究团队。
准备团队与Superalignment关注的对象并不相同。前者偏向模型已经可能具备的网络攻击、生物风险等能力,后者研究更长期的超级智能对齐问题。两支团队先后失去独立建制,至少说明OpenAI正在把安全研究从相对独立的组织,更多压回产品和专业业务线。
行业里也有相近做法。Anthropic通过Responsible Scaling Policy设定能力阈值和防护等级,Google DeepMind则发布Frontier Safety Framework。各家公司都能写出风险分类和评估程序,真正拉开差距的地方,却很少出现在文件标题里:
- 模型触及高风险阈值后,发布能否被推迟;
- 测试团队是否独立于承担进度和营收压力的产品线;
- 外部研究人员能否复核关键结果;
- 出现分歧时,谁拥有最终决定权。
“徒法不足以自行。”安全框架可以继续更新,系统卡也可以照常发布,但组织拆分会改变内部博弈。产品团队同时承担上线目标和风险判断时,评估更容易贴近工程现实,也更容易受到发布时间表的挤压。这才是此次调整最该盯住的限制。
企业采购不会立刻停单,但会要求更多可验证材料
普通ChatGPT用户眼下大概率感受不到变化。应用不会因为一个内部团队被撤销而立即变得更危险,模型能力和使用条款也不会随之自动改变。把这则新闻解释成“用户应马上弃用OpenAI”,缺少依据。
压力会先落到企业客户和安全研究人员身上。金融、医疗、制药等行业接入模型前,往往需要评估数据泄露、网络攻击和合规责任。独立准备团队消失后,采购方更难只凭“OpenAI设有专门团队”完成内部说明,可能会要求更具体的系统卡、红队测试结果、事故响应流程和合同责任条款。
如果你负责企业AI采购,现实动作不是立即更换供应商,而是把审查从组织名称转向可验证证据:下一款重要模型是否公开高风险能力测试,限制措施是否在发布前落实,出现安全争议时是否有明确负责人。材料交不出来,采购周期就可能拉长,敏感业务也会继续留在小范围试点。
研究人员则会关注人员流向和权限变化。成员被并入其他团队,不一定意味着研究停止;但若独立报告渠道、跨领域评估和延迟发布的权力一并消失,“专业化分工”就更接近组织收缩。
OpenAI正处于商业扩张和资本结构调整期,《金融时报》也把此次变化放进外界预期的大型IPO进程中观察。商业压力不能直接证明安全标准下降,却会让发布时间、算力投入和收入目标更有分量。下一份重要模型系统卡、风险负责人名单以及高风险测试的公开程度,将比一份仍挂在官网上的框架更能说明问题。
