参议员Marsha Blackburn和Richard Blumenthal联名给TikTok CEO周受资和美国业务负责人Adam Presser写了一封信,列了13个问题,要求9月1日前回答完。信的起点是彭博社记者Olivia Carville今年8月3日的一篇调查:TikTok曾对10%的美国用户——大约1500万人——关闭了一项算法安全防护,想看看这项防护到底会不会拖累用户粘性。
一封信,和信里最扎眼的一句话
16岁的Chase Nasca就在这个对照组里。参议员信中援引TikTok内部审查数据:他生命最后两周,算法推给他的7563个视频,73%都跟悲伤、孤独或自杀相关。2022年2月,他自杀身亡。他的父母2023年已就此起诉字节跳动和TikTok,这封信里的实验细节,是诉讼之外新浮出的一块证据。
backtest:一场从2022年开始的对照实验
Bloomberg的报道给这次实验起了名字——backtest,2022年1月启动。逻辑很直接:公司想验证那道"防止用户被有害内容淹没"的过滤保护,拿掉之后用户会不会刷得更久。安全功能在这里不是底线,是一个可以开关的实验变量,Chase恰好被随机分进了没有保护的那一组。
13个问题里,最刺眼的不是"谁批准了这次实验",而是要求TikTok交出2019年以来所有被禁用或推迟的安全功能实验清单。这句话的潜台词很直白:参议员不相信这只是一次孤立的失误,他们想确认这是不是TikTok测试增长指标时的常规动作。
这比"内容审核失败"严重在哪
一般的社交媒体安全争议,焦点是审核没跟上,漏网的有害内容太多。这次不一样:防护机制本身没有失灵,是被人主动关掉,拿来做A/B测试。前者是执行问题,后者是设计选择——公司知道这道保护有效,依然把它当成一个可以牺牲的实验变量,而被留在无保护组里的人,包括未成年人,事先没人告诉他们。
孟子说"上有好者,下必有甚焉者矣"。企业内部对留存和时长的偏好,经由算法精确地落到某个具体的人身上,这次是Chase Nasca。这不是内容审核疏漏,是把用户的心理安全当成了产品参数。
- 结论.安全功能能被当成开关来测试,这才是这次追问真正的分水岭。
安全功能变成了可以关掉测试的开关,这才是问题所在。
TikTok不是唯一一个,但因果链没那么好证
把这件事只算成TikTok一家的丑闻,可能低估了它的分量。2026年一项覆盖Instagram、TikTok、YouTube、Snapchat四个平台、共86项青少年安全功能的独立审计,给出了各家的失败比例。
Instagram和Snapchat的失败率都比TikTok高。这不是说TikTok的问题不重要,而是说"安全功能形同虚设"更像整个行业的结构性问题,不是某一家公司道德滑坡的孤例。推荐系统的优化目标是留存和时长,主动降低有害内容曝光,天然会拉低这两个数字——这是所有做engagement优化的平台共同面对的张力,TikTok只是这次被抓到了实验记录。
TikTok大概会这样辩护:算法测试是评估安全干预是否有效的必要手段,对照组的存在不能证明系统是故意设计来伤害人,推荐算法也判断不出一个用户的心理状态,更证明不了某条视频直接导致了自杀。这个辩护在法律和科学上有站得住的部分——自杀从来是多因素的,审计数据能证明的是"增加了有害内容暴露、强化了既有情绪状态、减少了保护性内容曝光",不是单一因果。
- 风险.因果链在法律上很难坐实,问责信的压力可能止步于文字回复,不落到具体立法或赔偿上。
但这恰恰是这次追问真正的杠杆:参议员要的不是给一次自杀定罪,而是要TikTok承认公司在多大程度上,把用户的心理安全当成了可以拿来测试的产品参数。9月1日之前,TikTok交不交这份清单、交多少,会决定接下来KOSA、COPPA 2.0这类立法的走向,也会成为Chase Nasca父母那场诉讼里最新、也最锋利的一块证据。