明尼苏达州那部"反AI脱衣"法8月1日就要生效,还剩两三天,xAI把官司递到了法院,被告是该州总检察长Keith Ellison。理由很直接:法律最高每次罚50万美元,覆盖面又宽,可能连正常操作都会被连坐,违反第一修正案。
这场诉讼卡在生效前几天才提起,时间点值得注意。法律5月就由州长Tim Walz签字,xAI有近三个月窗口期,却拖到最后关头才动手。
新法管什么,谁能告
这部法律被称为全美首创,条款很直接:网站不得允许用户"访问、下载或使用"能把人脸嫁接进裸体图像的工具。
手动PS改图不算——法律留了口子,"需要用户具备技术技能"完成的操作不受约束,针对的是一键生成的自动化产品。
违规后果分两条线:个人可以直接起诉,总检察长也能按每次违规最高50万美元追罚。
xAI的核心主张是,这条法律写得太宽——合意生成的图像、成人间偏性感但算不上色情的内容、带幽默或讽刺意味的作品,都可能被卷进同一条严格责任条款。诉状举的例子是一张新泽西州长和某位官员相扑摔跤的恶搞深伪图。
诉状里还有一句话:"即便公司已经部署了近乎完美、业界领先的技术控制,只要用户绕过限制生成了违规图像,责任依然会落到平台头上。"这是严格责任条款,也是xAI最不满的地方——防得再严,用户捅了篓子,账还是算在平台头上。
谁受影响,该怎么应对
新法和旧法比,变化在两个地方:管的环节往前挪了,追责标准也变严了。
| 既有法律(明州原法+联邦TAKE IT DOWN Act) | 新法(8月1日生效) | |
|---|---|---|
| 管什么环节 | 主要管"传播"——发布、散布非自愿裸照 | 管到"工具"——网站提供可访问、下载、使用的脱衣功能就算违规 |
| 追责标准 | 多要求证明传播者明知或应知 | 严格责任,用户绕过防护生成违规图像,平台也要担责 |
| 谁能起诉 | 受害者告传播者,监管机构可执法 | 受害者可直接告平台,总检察长也能追罚 |
| 处罚上限 | 视具体条款而定 | 每次违规最高50万美元 |
对被做成非自愿深伪图像的女性和未成年人来说,新法给了一条更直接的路——不用等总检察长出手,自己就能起诉平台。
对Grok和同类"一键脱衣"网站来说,选择不多:要么先自己动手限制生成功能,要么等着按每次违规被罚。xAI在诉状里也承认,法律"留给公司的唯一实际选择,就是以各种方式限制Grok Imagine的图像编辑功能"。
对其他州的立法者来说,这场官司的判决结果,会决定要不要照抄明尼苏达这种严格责任写法。
真正的分歧点在哪
xAI说自己已经有"近乎完美"的技术控制,对照今年1月的记录站不住脚。
2026年1月,Grok Imagine连续多天被用来批量生成非自愿性图像,一部分涉及未成年人。数字权利组织"打击数字仇恨中心"(CCDH)抽样统计了2025年12月29日到2026年1月8日这11天,估算Grok在这个窗口生成了约300万张性化图像,其中约2.3万张涉及儿童形象——平均每41秒一张。
这是抽样估算,不是监管机构的正式认定,也不是每一张都构成法律意义上的儿童性虐待材料(CSAM)。有专家告诉The Verge,部分图像(比如脸部被P上精液的)大概率触碰现行法律红线,另一些(比如未成年人穿泳装的性暗示图)边界并不清晰。
xAI后来确实起诉过一名用户,指控其用Grok生成CSAM——但那起诉讼比明州立法晚了两个多月。监管压力先到,平台的动作才跟上。
xAI诉状里还说,现行明州法和联邦TAKE IT DOWN Act已经能处理非自愿裸照的传播问题。这话有一半道理:老法律确实管传播,但没管住生成环节——1月那波图片就是在生成端批量产出的,老法律没能拦住。
这里也要说句公道话:法律写得过宽是真实风险。合意生成、艺术讽刺类内容被严格责任条款一并卷入,理论上确实可能发生,这是xAI论证里站得住脚的部分,法院大概率会用针对内容限制的严格审查标准来衡量。
这场官司目前刚起诉,案号、受理法院、是否申请临时禁令这些细节,公开报道里都还没给出,只能等法院程序往下走。真正该盯的有两点:法院会不会在8月1日前后批准临时禁令,先把法律"冻结";如果xAI真的赢了第一修正案这一局,其他州会不会因此收手,不再抄明尼苏达这种严格责任写法。
商鞅变法时有句话,"法之不行,自上犯之"——法律推不动,常常是因为掌权者自己先破了规矩。放到今天,明尼苏达要写一部这么重的法律,恰恰是因为"平台自律加旧法"这套组合拳,在Grok身上失灵了。
xAI在第一修正案上的论证有站得住的地方,法律确实可能管得比初衷更宽。但它把自己包装成"近乎完美技术控制"的守法典范,这个说法立不住——1月那波深伪图就是最直接的反证。
这场官司真正要判的,不是明州法条写得够不够精确,而是平台自律彻底失灵之后,社会还能不能靠更重的责任把安全逼出来。