Meta的广告系统在9月8日又被抓了个现行。非营利研究机构Tech Transparency Project（TTP）当天发布调查,称今年以来Facebook和Instagram上出现了332条含AI生成儿童性虐待材料（CSAM）的广告,部分广告直接盗用真实儿童照片——包括一名欧洲王室未成年成员的公开新闻照片,以及一名14岁Instagram网红晒运动服的日常照。这些照片被AI工具"动画化"成性侵犯场景,投放给数以万计的用户,Meta在举报之后拖了数天甚至更久才下架。
更值得关注的不是内容本身的恶劣程度——这在过去两年的nudify乱象报道里已经不新鲜——而是审核流程失灵的方式。TTP举报的129条活跃广告里,Meta最初判定其中57%"不违反广告标准";另有113条广告被系统错误归类为普通成人裸露内容,而不是儿童剥削。这说明问题不只是"没抓到",而是审核体系在"儿童"和"成人"这道最基本的分类线上就出了错。
广告背后是一条完整的产业链
332条广告里,298条直接导向App Store或Google Play上的AI图像/视频生成应用,其中253个应用的开发者信息指向中国大陆。TTP进一步核实,182条广告推广的应用具备"一键去衣"或把上传人脸拼进性爱视频的能力,覆盖近50款App。这些广告在欧盟触达超过2.9万个账号,英国约六七千个,美国、澳大利亚和印度也有投放,美国占比最高。
举报之后,漏洞出在哪一步
TTP追踪了Meta处理129条活跃广告的结果:73条(57%)被判定不违反标准,56条(43%)最终移除,审核耗时普遍超过一周。更蹊跷的是,同一张图片、同一段文案的两条广告,一条被认定违规下架,另一条被保留——Meta事后也没能解释这种不一致。TTP还发现113条广告最初被打上"成人裸露"标签而非"儿童剥削",直到TTP指出差异后Meta才更正记录。这意味着Meta过去公布的儿童剥削广告统计数字,很可能本身就是低估的。
- 风险.部分广告在被举报后仍持续投放数天,累计曝光量从个位数涨到三位数,受害者照片在此期间被更多人看到。
一年前的承诺,现在兑现到哪一步
Meta并非第一次面对这类指控。2025年6月它公开宣布打击nudify广告,起诉了运营CrushAI的香港公司Joy Timeline HK,承诺屏蔽相关搜索词、开发检测技术,并通过行业组织Tech Coalition的Lantern项目共享了逾3800个违规网址。今年5月,联邦《TAKE IT DOWN法案》正式生效,要求平台在收到有效举报后48小时内下架相关图像及其已知副本,FTC可对违规平台开出高达约5万美元级别的罚单。放在这条时间线里看,TTP这次揪出的332条广告,恰好发生在公开承诺和法律强制双重压力之后——说明问题不是没有规则,而是规则没有嵌进广告投放前的审核链条。
承诺写在新闻稿里,漏洞留在广告位上。
TTP还把部分广告关联到三家在中国大陆运营的Meta广告代理商——GIMC、Meetsocial和BlueFocus,尽管Facebook和Instagram本身在中国被屏蔽。这些代理商的角色更可能是渠道方而非内容审核方,谁在链条上真正把关,公开材料没有给出定论,不宜过度归因。但这至少提示一个结构性事实:Meta长期依赖跨境代理商开拓被屏蔽市场的广告收入,审核责任在这条链条上容易被稀释。
这也不是Meta一家的问题。TTP另一项调查显示,Apple和Google应用商店的搜索与推荐系统同样会把用户导向nudify应用,尽管两家公司都正式禁止此类工具上架。差别在于,目前公开证据最详实、被独立机构反复验证的案例集中在Meta——这更可能是取证难度不同,不代表其他平台真的更干净。
对普通用户来说,最现实的动作是留意是否有陌生账号盗用自己或孩子的公开照片,发现异常尽快用TAKE IT DOWN法案赋予的48小时下架请求维权。对监管者来说,下一步该盯的不是Meta又删了多少条广告,而是那113条被错误分类的记录有没有被系统性修复——这决定了同样的漏洞明年这个时候会不会再来一遍。