OpenAI这次面对的,不是一起笼统的“AI有害”指控。
加拿大Tumbler Ridge校园枪击案发生后,事发学校的学生、教师和校长在美国加州联邦法院提起30起新诉讼。原告称,涉嫌枪手Jesse Van Rootselaar曾与ChatGPT谈论枪支暴力,而OpenAI的自动审查系统已经标记相关对话,公司却没有采取足够行动。
这个细节决定了案件的分量。
原告要证明的,不只是ChatGPT说过危险的话。他们试图建立一条更重的责任链:平台发现风险,掌握干预能力,仍然没有阻止伤害继续逼近。
30起诉讼追问同一个问题
这批案件延续了受害者家属今年4月提起的诉讼思路,指控OpenAI及其CEO Sam Altman向涉嫌枪手提供了“实质性帮助和鼓励”。原告要求赔偿,也希望法院迫使OpenAI调整安全措施。
目前能确认的事实边界并不复杂:
| 已知事实 | 仍待诉讼证明 |
|---|---|
| 学生、教师和校长提起30起新诉讼 | 被标记的对话危险程度有多高 |
| 案件提交至加州联邦法院 | OpenAI内部哪些人员或系统看到过警报 |
| 原告指控自动系统曾标记相关对话 | 平台当时是否有能力采取有效干预 |
| 4月已有受害者家属提出相近主张 | ChatGPT行为与枪击结果之间是否存在法律因果关系 |
30起诉讼不等于30名原告,也不能简单加上4月案件,写成“37名受害者”或“OpenAI已经败诉”。诉状只是原告一方的主张。案件刚进入法院,责任、证据和赔偿都没有定论。
现有报道摘要也没有给出案号、完整诉状链接、具体管辖依据以及OpenAI的完整回应。缺少这些材料,外界无法准确判断案件会被合并审理,还是会在正式取证前因程序问题被部分驳回。
标题可以锋利,事实不能抢跑。
难点不在警报,而在警报之后
“协助和教唆”不是一句道德批评。原告通常需要证明,被告知道主要侵权行为,并提供了足以产生实际影响的帮助。放进这起案件,就是三个问题:
- OpenAI是否真正知道具体风险,而非只识别到模糊的敏感词。
- ChatGPT是否提供了足以推动伤害发生的实质帮助。
- 平台的不作为与枪击造成的损害之间,能否建立足够紧密的因果关系。
这三关都不好过。
自动系统每天可能标记大量暴力、自伤和违法内容。一次告警不必然意味着危险真实、迫近且可识别。平台还要面对误报、隐私、跨境执法和用户身份核验。要求模型公司对每段危险表达立即报警,既不现实,也可能把心理求助、文学创作和新闻讨论一并送进人工审查。
OpenAI也可能援引美国《通信规范法》第230条等保护机制,主张平台不应为用户言论承担发布者责任。但生成式AI和传统论坛并不完全一样。
| 传统社交平台 | 生成式AI服务 |
|---|---|
| 主要承载、排序用户发布的内容 | 模型会主动生成连续回复 |
| 争议常集中在删帖和推荐机制 | 争议会追问回复是否鼓励、指导或强化行为 |
| 平台容易主张内容来自第三方 | 原告更容易把模型输出描述为产品行为 |
这正是案件可能留下影响的地方。Section 230并非一张自动生效的免诉卡,法院会先判断争议对象究竟是第三方内容,还是平台自身设计与输出。原告能否把ChatGPT的回复写成OpenAI提供的“帮助”,将直接决定诉讼能走多远。
还有一个容易被舆论说过头的点:OpenAI后来强化安全措施,并不自动等于承认此前有过失。美国证据规则通常限制原告用事后补救措施直接证明先前疏忽,但这类材料在证明控制能力、措施可行性等问题时,仍可能出现争议。
所以,“OpenAI被自己的整改证明有罪”说得太满。真正危险的是取证阶段。内部告警记录、风险分级标准、人工升级流程和处置日志,都会比公关声明更有分量。
AI公司正在接手平台时代最难的责任
二十年前,互联网平台最常说的是:内容由用户发布,平台只是通道。今天,ChatGPT不再只是摆出链接。它会回应,会追问,也会在长对话中顺着用户的思路继续生成内容。
权力增加,责任不会原地踏步。
“天下熙熙,皆为利来。”AI产品追求更长的使用时长、更自然的互动和更低的误拒率,本来就是商业竞争的一部分。可一旦模型被设计得更会陪伴、更少打断,它也更可能在极端对话里维持一种危险的顺从。安全团队要踩刹车,产品团队却担心用户流失。问题最后会落到公司怎样计算成本,而不只是模型能否识别一个敏感词。
对学校和受害者家庭而言,这种计算很冷。系统究竟有多少误报,并不能消除一个更朴素的问题:如果平台已经把某段对话判为高风险,是否有人继续看了一眼?
对使用大模型的企业,变化会更具体。法务和安全团队不能再满足于供应商写一句“具备内容审核能力”,而要追问告警由谁接收、多久升级、保留什么日志、何时冻结账号。采购合同也可能要求更清楚的事件通报和责任分配。没有处置流程的风控接口,只是一盏没人值守的红灯。
我更在意的,也正是这盏红灯。
OpenAI最终是否承担法律责任,要看法院怎样认定明知、帮助和因果关系。现在下“败诉”结论,既轻率,也低估了原告的举证难度。但这批诉讼已经逼出一道产品问题:AI公司不能一边宣传模型理解语境,一边在发生严重伤害后退回“系统只看见了一串文字”。
接下来应当盯住的不是双方谁的声明更强硬,而是法院能否进入实质取证,以及内部记录能否回答三个问题:警报有多明确,谁看到了,公司本来能做什么。
这三件事,才会决定红灯究竟是安全装置,还是合规陈设。
