明尼苏达州一条新规2026年8月1日生效:用AI给人P出裸体或半裸图像,每张违规输出最高罚50万美元,受害者还能就单张图单独起诉平台。这条法律还没落地,xAI已经把它告上了法庭——不是先去改Grok,是先去告这个州。

xAI在诉状里自己算了一笔账:按违规图片数量从1张滚到10万张,理论罚款敞口能从50万美元一路推到500亿美元。这不是法院开出的罚单,是它自己推演出的最坏情况。这场官司真正要问的问题,不是AI裸图算不算受宪法保护的言论,是Grok这个换衣功能造成的规模化伤害,成本该谁来扛。

官司为何现在爆发

Grok和Grok Imagine这半年不太平。有用户被指用它批量生成儿童性虐待图像,已有人因此被捕。今年3月,田纳西几名女孩的照片被合成不雅图,一纸诉状把xAI告上法庭。上周,阿肯色州一名摄影师被曝用Grok把数百名客户的照片"脱衣",其中一名10岁女童的家人也起诉了xAI。律师说,这类受害未成年人的诉讼还在增加。

xAI本月早些时候先出手,起诉了几名被指规避安全防护的Grok用户,并把这一动作写进新诉状里,当成"我们已经在自我监管"的证据。目前公开可查的自我监管动作,只有这一件——起诉几个绕过护栏的用户,说明护栏本身没能挡住批量滥用,只能事后抓人。

7月27日,xAI正式起诉明尼苏达州。

Grok争议升级时间线 3月起 未成年人起诉xAI 7月上旬 xAI起诉Grok用户 7月27日 xAI起诉明尼苏达州 8月1日 新规生效日

法律条文与xAI异议:宽在哪,糊在哪

xAI这次没有正面辩护"AI裸图算不算言论",而是攻击法律的定义太粗。它说明尼苏达"私密部位"的定义抄自刑事猥亵条款,结果泳装、短裤、男性赤膊这类日常公开画面,理论上都可能被扣上"换衣"的帽子。

它还指出,这条法律不要求图片被传播,本人同意甚至用户自己生成自留的图像,理论上也可能触发处罚。50万美元是单次违规行为的上限,不是整案封顶——每一张单独计算、累加,这也是诉状里能推出天文数字的原因。

对比项明尼苏达新规联邦《Take It Down法案》
"私密部位"定义借用刑事猥亵条款,可能覆盖泳装、短裤、男性赤膊仅限生殖器、乳头等更窄范围
是否要求传播不要求,自己生成、自留也可能触发一般以传播为要件
处罚方式单张违规最高50万美元,按张数累加无此单张巨额罚则
受害者能否单独起诉可以,就单张图片单独起诉平台视具体情形而定
生效状态2026年8月1日生效,xAI已提起诉讼并要求法院阻止已生效

明尼苏达州司法部长基思·埃里森的回应很直接:"用AI给人生成违背本人意愿的裸体图像,这件事本身就令人反感,这不该是一个值得辩论的AI政策问题。"

xAI的诉状里还有一句关键的话:"如果不是这条法律和它的罚则,xAI会继续原样提供这个编辑功能。"不是原则问题,是成本问题。

Grok违规图片处罚敞口(xAI自测算) $50万 单张违规图片上限 $500万 10张违规图片的理论敞口 $5亿 1000张违规图片的理论敞口 $500亿 10万张违规图片的理论敞口

谁受影响,接下来看什么

对被合成图像的受害者,尤其是未成年人家庭:新规生效后,不需要等集体诉讼,可以就单张图片单独起诉平台。眼下能做的是留存证据——截图、发布时间、涉事账号,同时向平台举报、必要时报警。

对普通用户和摄影师、修图从业者:条文不要求传播这一点意味着,"本人同意"或"自己生成自己留着"未必是免责理由。面对这种模糊地带,更现实的反应是暂时避开同类编辑功能,等临时禁令结果或条文修订出来再说。

接下来值得盯住的几件事:

  • 法院是否批准xAI申请的临时禁令,阻止新规8月1日生效;
  • "定义过宽"这一条能否被部分采纳——更可能的结果是明尼苏达收窄定义,而不是整条作废;
  • Grok Imagine是否真的收紧换衣编辑功能,还是只在诉讼压力下做表面调整;
  • 其他州会不会跟进这种带单图巨额罚则、且不要求传播要件的立法。

明尼苏达的条文确实有毛病,这场官司里xAI在定义过宽这一点上未必会输。但《史记》里那句"天下熙熙,皆为利来"放在这里毫不违和:Grok换衣功能的商业吸引力摆在那儿,约束真正起作用的时刻,从来不是行业自律喊出来的,是罚则写进法条、账单可能滚到500亿美元的那一刻。