一个8月3日才注册、零粉丝的Facebook广告账号,用五天时间投出了32条广告,内容是把知名女政客的脸换到色情视频里,配文写着"如果她动了会怎样?"这条广告最终被WIRED发现后才下架,此时它已经在Instagram和Facebook上跑了5到46小时不等。Meta的审核系统,在这段时间里没有拦下它。

这件事真正刺眼的地方不是又一次"内容审核失灵"——这种新闻这两年已经见过太多次。刺眼的是失灵的方式:一个没有任何历史信誉、明显高危的新账号,靠着几张海滩风景图当封面就骗过了系统,而Meta自己统计的过往同类违规广告删除量已经超过34万条。删得越多,漏得越稳,这才是需要解释的悖论。

Meta和苹果的说法:都是"对方变坏在先"

Meta女性安全负责人Cindy Southworth的回应把责任框定得很清楚:这是"对抗性行为者"用海滩、瀑布这类无害封面图规避检测的"伪装战术",公司"正在调查系统为何被绕过"。这句话翻译一下就是——广告主先使坏,我们只是没跟上。

苹果这边的说法结构几乎一模一样。Kromix此前一直挂在App Store上,苹果的解释是,这款应用"疑似在初次审核通过后才新增了违规内容和功能",言下之意也是:应用先变坏,我们审核时它还是好的。

  • 风险.两家平台的责任叙事高度一致——都把漏洞归因于对方"事后作恶",而不是自己审核环节本身的盲区,这种说法目前都无法独立验证。

新账号、零粉丝、短时高危内容,这三个信号单独看都不算隐蔽,组合在一起本该是最基础的风控红线。它没有触发人工复核,说明现有反作弊逻辑对"新号快闪型"广告几乎没有专门应对,而这恰好是最容易被规避的一类系统。

Kromix广告的72小时 8月3日 账号创建 零粉丝 投放期间 32条广告 运行5-46小时 WIRED问询 记者联系Meta 随即下架 非系统主动拦截 多数广告曝光量不到10次——但已足够生成、传播成品

政治女性一直是首要靶子

这类应用挑女性政治人物下手不是偶然,而是路径依赖:官方肖像、发布会视频清晰、公开、易获取,是深伪素材里最好用的原料。今年1月,Grok被用来生成约300万张女性色情图片,瑞典、英国、北爱尔兰的官员都曾被卷入类似事件;意大利总理梅洛尼此前也被AI生成的"内衣照"攻击过。这不是某一款应用的孤立行为,而是一整条低门槛、可复制的产业链在批量运转。

谁掌握公开影像越多,谁就越先成为素材库。

旧金山的信,可能比公关声明更有用

比起平台自证清白的公关话术,真正值得盯住的是法律层面的动作。今年7月,旧金山市检察长David Chiu已向Apple和Google发出停止侵权函,点名13款涉嫌生成非自愿色情深度伪造内容的应用,措辞里用了"协助教唆"——这意味着平台不只是托管方,还从这类应用的分成中获利,可能因此承担更直接的法律责任。Google已暂停被点名的应用并追加下架数百款同类工具,Apple也下架了部分应用、终止了相关开发者账号。

需要说清楚的是,目前没有证据显示Kromix就在这13款名单里,两条线索更可能是同一生态问题下各自独立的案例,不宜强行拼成一个故事。

  • 结论.真正能改变平台行为的,大概率不是"我们又强化了检测技术"这类表态,而是像旧金山这样把责任落到具体法律条款上的外部施压——这条路径能不能走通,还要看Apple和Google对停止侵权函的正式回应。

对普通用户来说,这件事的直接提醒很简单:任何公开发布过照片或视频的人,尤其是有公众身份的女性,都已经是这条产业链默认的素材来源,而不是需要额外"被盯上"才会中招。