一个主播打开摄像头,点一下菜单,就能把自己的脸换成 MrBeast、Sydney Sweeney,甚至 Jeffrey Epstein。
这事发生在 Kick 的直播间。主播 Sam Pepper 使用实时换脸工具 Delulu,在多个真人形象之间切换,并制造未经本人同意、带诽谤和性骚扰意味的内容。其中针对 MrBeast 的言论涉及儿童性伤害暗示,性质很恶劣。
最该盯住的不是“AI 又能骗人了”。这句话已经钝了。
真正的新变量是:深伪开始从灰产工具,变成主播插件。它不一定最强,但足够顺手。顺手,就会扩散。
Delulu 做的不是滤镜,是真人皮肤菜单
这件事的基本事实并不复杂。
| 项目 | 事实 |
|---|---|
| 主播 | Sam Pepper,英国互联网人物,因骚扰式恶作剧内容出名,已被多个平台封禁 |
| 直播平台 | Kick,Twitch 的竞争对手,外界常把它和更宽松的审核环境联系在一起 |
| 使用工具 | Delulu,通过摄像头实时套用“skins”换脸 |
| 被冒用对象 | MrBeast、Jeffrey Epstein、Amouranth、Sydney Sweeney 等 |
| 工具背景 | Delulu 背后公司 Decart 已获红杉、Benchmark 等投资方支持,总融资超过 4.5 亿美元 |
| 平台回应 | Kick 和 Decart 未回应;Twitch 称 Sam Pepper 自 2018 年起已被封禁,相关内容违反冒名、骚扰和青少年安全规则 |
Delulu 的产品逻辑很直白。用户给摄像头权限,选择一个 skin,就能实时换脸。
这些 skin 里有动物、卡通角色、虚构人物,也有真实名人、政治人物、成人表演者。许多皮肤由用户生成。Sam Pepper 直播里展示的皮肤,看起来也属于用户生成。
这就越过了普通娱乐滤镜的边界。
滤镜改变的是你自己。真人皮肤菜单改变的是别人对你的识别。只要观众一眼能认出“这是某个真实人物”,风险就已经开始。
名人最先中招,但普通创作者也跑不掉。今天是 MrBeast 和 Amouranth,明天就可能是中腰部主播、播客主持人、公司高管、学校老师。越没有公关团队,维权成本越重。
它不必最逼真,只要足够便宜和好用
原报道提到,Delulu 的效果并不是同类实时深伪软件里最逼真的。这个限制很重要。
但直播不是电影后期。直播追求的是即时反应、弹幕起哄、片段传播。换脸只要能让观众认出对象,羞辱、误导和骚扰就能成立。
| 工具 | 门槛 | 典型风险 |
|---|---|---|
| Haotian AI | 更贵、安装更难、需要强显卡,被报道用于诈骗场景 | 高门槛、高收益的犯罪化使用 |
| Delulu | 免费、轻量、点选皮肤、面向主播场景 | 低门槛、易扩散、娱乐化滥用 |
这里不能把 Delulu 说成诈骗专用软件。它的市场定位是主播娱乐工具。
问题正出在这里。
当实时深伪被放进主播工具箱,滥用就不再只发生在诈骗团伙和灰产论坛。它会被包装成节目效果、整活素材、直播互动。恶意被娱乐化之后,惩罚往往来得更慢。
“天下熙熙,皆为利来。”这句话放在直播行业并不玄。流量奖励越直接,越会有人把冒名、羞辱、擦边和猎奇混成内容。
对关注 AI 深伪和平台治理的读者,判断标准要换一下。别只看模型效果。更要看三个产品细节:真人皮肤是否需要授权,用户生成模型是否预审,直播中被举报后是否能立刻下架或封禁。
对内容平台和直播团队,动作也很具体。采购或接入类似工具时,应该延后默认开放真人皮肤;主播公会和 MCN 至少要把“不得使用未经授权真人形象”写进合约和培训。创作者本人则要提前准备证据留存流程:录屏、链接、时间戳、平台举报记录。等热度过去再追,成本会翻倍。
受害者先付账,平台责任总是慢半拍
这类事件最刺眼的顺序是:工具先上线,主播先试探,观众先围观,受害者先受损,平台再判断。
这条链路并不新。
早年的小报靠名人隐私卖报,社交平台靠争议内容拉停留,短视频平台靠切片放大冲突。今天实时深伪把同一套激励搬进了摄像头。差别在于,过去造谣还要写字、剪视频、找素材;现在只要点一个皮肤。
平台当然可以说规则已经存在。Twitch 的回应也说明,冒名、骚扰、青少年安全都有可适用的规则。
难点在执行。
Kick 这类平台如果把宽松氛围变成竞争优势,审核天然容易慢一拍。Decart 这类工具公司如果把“好玩、实时、易用”放在第一屏,把身份同意和滥用拦截放在后面,风险就会外溢给被冒用的人。
投资方也不该被简单扣帽子。现有事实不能说明红杉、Benchmark 支持具体滥用行为。
但资本支持的产品一旦面向大规模创作者,就不能只用“用户自己负责”来卸力。工具设计会决定滥用成本。菜单怎么排,皮肤怎么上架,举报怎么响应,都会把风险推高或压低。
接下来最该观察四件事。
| 观察点 | 为什么重要 |
|---|---|
| Kick 是否处置相关账号和内容 | 平台规则有没有执行,不看声明,看下架和封禁速度 |
| Decart 是否调整 Delulu 的真人皮肤机制 | 关键不在道歉,在是否限制未授权真人模型 |
| 用户生成 skin 是否进入审核流程 | UGC 是扩散入口,也是治理漏洞 |
| 被冒用者能否快速投诉和取证 | 受害者成本能否下降,决定这类工具会不会常态化伤人 |
我不太买账“技术中立”这套老话。锤子当然中立,但如果你把锤子做成自动瞄准玻璃窗的玩具,还放进直播间奖励系统里,就不能只怪用户手欠。
Delulu 这次不算技术突破,却像一个清楚的提醒:实时深伪正在进入内容行业的日常按钮区。
按钮越轻,代价越重。
