Reddit在官方博客里报了一笔账:每天拦截2300万次垃圾内容曝光,每天新抓出约25000条垃圾帖子和评论。今年一季度,用户刷到垃圾内容的概率比去年四季度低了20%。听起来是一次漂亮的反击战。
但这场仗打得有点别扭。Reddit承认,这些垃圾内容“很大程度上”就是LLM生成的——虚假好评、协同顶帖、机器人式互动,门槛低到人人可造。它现在的解法,是再上一套LLM,去识别这些由LLM写出来的东西。用AI打AI,像拿刀削自己磨出来的刀刃。
垃圾内容为什么突然多了
生成门槛塌方,是这一切的起点。以前刷一屏水军评论,好歹需要养号、写脚本、找写手。现在一个大模型,几秒钟能吐出几十条语气、措辞各不相同的“真实用户发言”,平台老一套靠关键词和行为模式识别的反垃圾系统基本失灵。
Reddit这次的说法是,新工具能识别“更隐蔽的协同行为和人造热度”——换句话说,不是抓单条帖子像不像AI写的,而是抓一群账号有没有在演戏。这个方向是对的,但也说明旧的检测思路已经跟不上了。
被博客一笔带过的另一门生意
官方叙事讲的是“守护真实性”,但博客里没提的是,Reddit这两年最大的商业变量,恰恰来自把用户内容卖给AI公司。它先后和Google、OpenAI签了数据授权协议,让平台上的讨论成为模型训练和检索的原料;自己也上线了LLM驱动的问答产品Reddit Answers,并逐步嵌入站内搜索。
Reddit现在同时扮演两个角色:它是AI产业链的内容供应商,又是AI垃圾内容的受害者和清道夫。
- 结论.授权数据换钱和清理AI垃圾,是同一套商业逻辑逼出来的两条线,不是巧合。
下面这张图,画的是这条链路怎么绕成一个圈。
版主的真实反应,和官方乐观不太一样
Reddit开发者平台上,已经有第三方做出SlopHound、Lighthouse这类检测AI水文的moderator工具,不是等官方来才有的自救。
但一线版主的态度更谨慎。在r/ModSupport、r/Spanish、r/ExperiencedDevs这些版块的讨论里,不少版主坦言技术上很难可靠判断一条内容是不是AI写的,干脆放弃“溯源判断”,改用“质量判断”——写得好不好、有没有信息量,比是不是AI生成更重要。少数板块像r/Xbox则走了另一条路,直接一刀切禁止AI生成帖子。
这说明官方那套“LLM抓LLM”的说法,在基层执行层面并没有那么被信任。
商业模式这条线才是关键。“以毒攻毒”能治标,但Reddit的收入结构里,把内容卖给制造垃圾内容技术的同一批公司,本身就是一笔越做越大的生意。授权收入涨得越猛,平台清理垃圾的动力和投入,会不会被这门生意本身对冲,是接下来更值得盯住的变量。
卖水和治病,是同一家药房在做。
拦截率能不能持续往上走、版主工具和官方工具最终是合作还是被替代、数据授权收入占Reddit整体营收的比重会不会公开——这几个数字,比“今天拦了多少垃圾”更能说明Reddit到底站在哪一边。