OpenAI最近集中公布了一批面向欧洲的治理措施:系统卡、红队测试、外部评测、前沿风险框架、内容凭证、水印,以及高级网络安全模型的受控访问。
动作很多,指向同一件事。《欧盟人工智能法案》进入实施期后,OpenAI想证明自己已经有一套能落地的安全与透明度体系。
问题也由此变得具体:这些措施究竟能否被外部验证,还是一份由厂商自行出题、自行作答的合规说明书?
OpenAI承诺了什么,欧洲企业要做什么
OpenAI表示支持欧盟的通用人工智能模型(GPAI)实践准则,也支持AI生成内容透明度实践准则。
这里要分清法律层级。实践准则能帮助模型提供商说明自己如何履行义务,但它仍是自愿合规工具。支持准则,不等于已经满足《欧盟人工智能法案》的全部法定义务,更不等于欧盟监管机构完成了合规验收。
《人工智能法案》已于2024年8月1日生效,针对GPAI提供商的新义务自2025年8月2日起开始适用,既有模型拥有更长过渡期。欧盟AI办公室负责GPAI层面的集中监管,违法责任最终落在法案和执法程序上,而不是企业声明上。
OpenAI披露的措施可以压缩成这张表:
| 领域 | OpenAI披露的做法 | 能解决什么 | 目前的边界 |
|---|---|---|---|
| 模型透明度 | 发布系统卡,说明能力、评测与已知风险 | 给客户、研究者和监管者提供基础材料 | 内容由厂商选择披露,完整性仍需外部核验 |
| 模型安全 | 红队测试、外部评测 | 提前发现滥用路径和危险能力 | 测试范围、评测者权限及结果公开程度决定可信度 |
| 前沿风险 | 以Preparedness Framework和Frontier Governance Framework管理高风险能力 | 把风险分级、发布决策和内部问责写成流程 | 框架能否约束商业发布压力,要看真实执行记录 |
| 内容溯源 | 叠加C2PA内容凭证与SynthID水印,并计划从图像、音频扩展到文本等模态 | 为平台和用户提供AI生成线索 | 元数据可能丢失,水印可能衰减,跨平台标签也可能失效 |
| 网络安全 | 向符合条件的机构提供高级网络安全模型的受控访问 | 让防御机构接触更强能力,同时限制扩散 | 谁能获得访问、如何审计用途,仍依赖具体准入制度 |
欧洲企业最现实的变化,不是多读一份系统卡,而是把合规证据留在自己的流程里。
在欧盟接入OpenAI模型的团队,至少要补几件事:
- 记录模型版本、用途、数据流向和更新日期;
- 保存供应商提供的系统卡、评测材料与合同承诺;
- 明确内容标记、用户告知、日志留存和事件上报责任;
- 采购时询问模型更新是否会改变风险等级与合规结论;
- 不把C2PA标签或水印当成唯一鉴定证据。
开发者也不能默认“用了API,责任全在OpenAI”。如果团队修改模型、以自有品牌提供服务,或把模型放进招聘、信贷、医疗等受监管场景,法律角色和义务可能随部署方式变化。
至于获得高级网络安全模型受控访问的机构,真正增加的是准入审查、用途限制和审计成本。这类能力不会像普通API一样全面开放,机构需要证明自己有能力保管,也有能力承担误用后果。
安全框架是硬措施,内容溯源仍是一组弱信号
系统卡、红队测试和前沿风险框架,比一句“我们重视安全”有价值得多。它们至少把模型发布从产品决策变成了一套可以追问的治理流程:测了什么,谁参与测试,发现风险后有没有延迟发布,谁签字放行。
但流程写进文档,只是第一步。
Preparedness Framework能否发挥作用,要看风险阈值是否稳定,也要看它能否顶住商业压力。模型越接近发布,算力、渠道和市场预算投入越大,组织越容易降低叫停意愿。真正有分量的证据,是厂商是否公开过延迟发布、收紧权限或撤回能力的案例。
外部评测也存在权限问题。评测机构拿到公开产品、受限接口,还是接近模型权重的测试环境,结论强度完全不同。如果评测范围由厂商决定,所谓“外部”很容易变成外包测试。
内容溯源的限制更直观。
C2PA主要依靠加密签名和元数据记录内容来源。图片经过截图、压缩、转发或平台二次处理后,元数据可能消失。SynthID一类水印把信号嵌入内容本身,耐受性通常更强,却同样会受到编辑、转码和对抗处理影响。
两者叠加是合理路线,但不能把概率信号包装成数字指纹。
一张图片没有凭证,不代表它由人类创作;检测到水印,也不能脱离误判率、处理链和平台记录直接定罪。企业若拿单一信号处理版权争议、内容下架或员工问责,迟早会把技术局限变成治理事故。
这也是OpenAI计划把溯源能力从图像、音频扩展到文本时必须面对的问题。文本更容易被改写、翻译和拼接,稳定水印与自然表达之间还存在冲突。技术方案可以提高造假成本,却很难成为真假裁判。
主动合规值得肯定,规则解释权仍要留在公共机构手中
我认可OpenAI这次主动披露。前沿模型高度复杂,监管者不可能完全脱离厂商就理解训练过程、能力边界和安全评测。让企业参与准则制定,也比监管部门闭门写出一套无法执行的条文更现实。
反方的理由并不弱:如果欧盟把所有技术细节都写死,规则很快会落后,合规成本还可能把中小公司挡在门外。行为准则提供了一条较灵活的路径,也能减少企业面对多个成员国时的重复解释。
麻烦在于,头部模型公司拥有最多技术信息,也最有能力影响“什么算安全”“披露到什么程度”“哪种评测足够”。一旦实践准则过度依赖厂商现有框架,行业领先者就可能把自己的内部流程写成市场门槛。
天下熙熙,皆为利来。企业支持监管并不虚伪,争取对自己更有利的监管尺度也很正常。公共治理不能因此放弃边界。
现代审计制度有一条朴素经验:账可以由公司自己做,审计意见不能由公司自己签。AI治理同理。系统卡、风险框架和水印都可以来自厂商,但监管者仍需保留独立抽查、索取材料、复核评测和追究责任的能力。
接下来真正该看的,不是OpenAI又发布了多少治理文件,而是四件更硬的事:
- 外部评测者能拿到多深的模型访问权限;
- 严重安全事件是否按统一标准披露;
- C2PA与水印能否跨平台保存和验证;
- 欧盟AI办公室是否会公开形成可复用的审查尺度。
如果这些环节迟迟停留在企业自述,主动合规就更像一次提前卡位。若监管者能把披露材料变成可抽查、可质疑、可处罚的证据链,这套安排才算真正开始运转。
OpenAI交出的不是毕业证,只是一摞待核验的答卷。考官必须坐稳。
