明尼苏达州一条新规2026年8月1日生效:用AI给人P出裸体或半裸图像,每张违规输出最高罚50万美元,受害者还能就单张图单独起诉平台。这条法律还没落地,xAI已经把它告上了法庭——不是先去改Grok,是先去告这个州。
xAI在诉状里自己算了一笔账:按违规图片数量从1张滚到10万张,理论罚款敞口能从50万美元一路推到500亿美元。这不是法院开出的罚单,是它自己推演出的最坏情况。这场官司真正要问的问题,不是AI裸图算不算受宪法保护的言论,是Grok这个换衣功能造成的规模化伤害,成本该谁来扛。
官司为何现在爆发
Grok和Grok Imagine这半年不太平。有用户被指用它批量生成儿童性虐待图像,已有人因此被捕。今年3月,田纳西几名女孩的照片被合成不雅图,一纸诉状把xAI告上法庭。上周,阿肯色州一名摄影师被曝用Grok把数百名客户的照片"脱衣",其中一名10岁女童的家人也起诉了xAI。律师说,这类受害未成年人的诉讼还在增加。
xAI本月早些时候先出手,起诉了几名被指规避安全防护的Grok用户,并把这一动作写进新诉状里,当成"我们已经在自我监管"的证据。目前公开可查的自我监管动作,只有这一件——起诉几个绕过护栏的用户,说明护栏本身没能挡住批量滥用,只能事后抓人。
7月27日,xAI正式起诉明尼苏达州。
法律条文与xAI异议:宽在哪,糊在哪
xAI这次没有正面辩护"AI裸图算不算言论",而是攻击法律的定义太粗。它说明尼苏达"私密部位"的定义抄自刑事猥亵条款,结果泳装、短裤、男性赤膊这类日常公开画面,理论上都可能被扣上"换衣"的帽子。
它还指出,这条法律不要求图片被传播,本人同意甚至用户自己生成自留的图像,理论上也可能触发处罚。50万美元是单次违规行为的上限,不是整案封顶——每一张单独计算、累加,这也是诉状里能推出天文数字的原因。
| 对比项 | 明尼苏达新规 | 联邦《Take It Down法案》 |
|---|---|---|
| "私密部位"定义 | 借用刑事猥亵条款,可能覆盖泳装、短裤、男性赤膊 | 仅限生殖器、乳头等更窄范围 |
| 是否要求传播 | 不要求,自己生成、自留也可能触发 | 一般以传播为要件 |
| 处罚方式 | 单张违规最高50万美元,按张数累加 | 无此单张巨额罚则 |
| 受害者能否单独起诉 | 可以,就单张图片单独起诉平台 | 视具体情形而定 |
| 生效状态 | 2026年8月1日生效,xAI已提起诉讼并要求法院阻止 | 已生效 |
明尼苏达州司法部长基思·埃里森的回应很直接:"用AI给人生成违背本人意愿的裸体图像,这件事本身就令人反感,这不该是一个值得辩论的AI政策问题。"
xAI的诉状里还有一句关键的话:"如果不是这条法律和它的罚则,xAI会继续原样提供这个编辑功能。"不是原则问题,是成本问题。
谁受影响,接下来看什么
对被合成图像的受害者,尤其是未成年人家庭:新规生效后,不需要等集体诉讼,可以就单张图片单独起诉平台。眼下能做的是留存证据——截图、发布时间、涉事账号,同时向平台举报、必要时报警。
对普通用户和摄影师、修图从业者:条文不要求传播这一点意味着,"本人同意"或"自己生成自己留着"未必是免责理由。面对这种模糊地带,更现实的反应是暂时避开同类编辑功能,等临时禁令结果或条文修订出来再说。
接下来值得盯住的几件事:
- 法院是否批准xAI申请的临时禁令,阻止新规8月1日生效;
- "定义过宽"这一条能否被部分采纳——更可能的结果是明尼苏达收窄定义,而不是整条作废;
- Grok Imagine是否真的收紧换衣编辑功能,还是只在诉讼压力下做表面调整;
- 其他州会不会跟进这种带单图巨额罚则、且不要求传播要件的立法。
明尼苏达的条文确实有毛病,这场官司里xAI在定义过宽这一点上未必会输。但《史记》里那句"天下熙熙,皆为利来"放在这里毫不违和:Grok换衣功能的商业吸引力摆在那儿,约束真正起作用的时刻,从来不是行业自律喊出来的,是罚则写进法条、账单可能滚到500亿美元的那一刻。
