xAI在7月14日把一名南卡罗来纳州男子告上得克萨斯联邦法院,指控其用Grok的图片编辑功能把普通照片改造成儿童性剥削材料。案由是服务条款违约,诉求是未定额赔偿加永久封号。乍看是一起再普通不过的追责案,但选在这个时间点起诉一名普通用户,耐人寻味——因为同一段时间里,xAI自己正被受害者告上法庭,加拿大监管机构也刚认定它没能证明防护措施真的有效。
被告Terry Harwood今年2月已因涉嫌持有和传播未成年人性剥削材料被捕,面临八项重罪指控。xAI这次民事诉讼,某种意义上是把同一件事又打了一遍,只是换了原告身份和追责逻辑。
起诉书里写了什么
诉状指控Harwood的手法是先上传普通、非色情的成人和未成年人照片,再诱导Grok把照片转成色情露骨内容,其中部分涉及可识别身份的未成年人,也涉及成人非自愿深度伪造。
关键在于xAI选的案由——服务条款违约,不是产品责任。这个选择把责任框定成个人蓄意绕过安全机制,而不是模型设计本身的问题。诉状里,xAI称Harwood的行为让公司暴露在"重大法律风险和声誉损害"之中,连自己可能因受害者起诉而产生的应诉费用,也一并要求Harwood赔。
52,222次封号想证明什么
诉状里,xAI自称今年以来已封禁52,222个账户,向NCMEC提交73,604份举报,促成至少244起逮捕。这些数字全部来自公司自己的诉状,没有第三方核实,写进起诉书的作用也不是给检方看,而是说给法官和公众听:我们已经尽到责任。
同一时间,xAI自己也是被告
田纳西州的未成年人及其他深度伪造受害者今年3月已起诉xAI,指控Grok在设计和发布时防护不足;7月7日修订的诉状又新增一条更刺眼的指控——xAI阻碍执法调查。几乎同期,加拿大隐私专员公署在6月11日的裁定里说,xAI虽然加了多层防护,但没能证明这些防护真正解决了性化深度伪造问题,xAI对这个结论表示异议。
三条线放在一起看:xAI告用户,把责任归为个人蓄意规避;受害者告xAI,把责任归为产品设计缺陷,还加了一条阻碍执法的指控;监管机构说的是,你自己都没证明防护有效。
起诉用户,并不能替公司的产品设计撇清责任
谁该负责,目前还没有答案
Harwood的刑事指控和xAI的民事诉讼是两条独立程序,起诉书里的说法目前只是指控,没有经过法院认定。真正值得盯的是后续走向:如果法院认可"用户违约"这套逻辑,会不会反过来削弱受害者那边"产品设计缺陷"的主张?两案的判决结果很可能相互牵制。
- 提醒.xAI自报的封号、举报、逮捕数字目前无第三方核实,不宜直接当作行业安全标杆来看。
对普通用户来说,这案子的信号很直接:用生成式工具处理他人照片,哪怕平台的安全防护形同虚设,个人照样要承担法律后果,这和过去"出了事先怪平台"的默认预期不太一样。对同行公司而言,这是首例AI公司公开反诉个人滥用者的案例——如果xAI打赢,很可能被其他公司复制成一套标准打法:先起诉几个具体的人,把责任叙事往用户身上引,给自己的产品设计问题争取时间。