Scale AI 创始人 Alexandr Wang 在 Instagram 上发布了一段视频。画面中,他与 Meta CEO Mark Zuckerberg、OpenAI CEO Sam Altman 以及 Muse 的卡通吉祥物共同进行视频通话。最诡异的细节是,Sam Altman 被赋予了一个毛茸茸的玩偶造型。
这显然不是真实的会议,而是由 AI 生成的深度伪造(Deepfake)视频。Alexandr Wang 试图以此宣传其公司的 Muse 智能代理产品,但公众看到的却是科技权贵们以一种荒诞的方式集体出镜。
娱乐化背后的监管裂痕
这类视频通过将技术大佬深度伪造化,消解了普通用户对 AI 内容真实性的戒心。作为 AI 基础设施的关键玩家,Scale AI 的创始人在未经当事人明确许可的情况下,将这种伪造技术带入主流社交平台,实质上是在为伪造内容提供合法的娱乐背书。
平台治理在此刻呈现出明显的割裂,我们可以从以下维度观察:
| 维度 | 行业潜规则 | 平台治理的现实约束 |
|---|---|---|
| 内容生产 | 大佬背书的营销惯性 | 对 UGC 伪造内容的严厉打击 |
| 技术边界 | 炫技式 AI 生成 | 难以界定虚构与欺诈的临界点 |
| 用户认知 | 认为大佬能自我保护 | 将伪造视为无害的模因文化 |
行业叙事的错位
我更在意的是这种行为背后的示范效应。AI 产业目前正处于叙事收割期,为了争夺 Muse 这类消费级 AI 代理的市场占有率,公司倾向于利用伪造技术快速建立有趣的品牌记忆。
问题在于,当行业最核心的推动者开始模糊真假边界,依靠算法操弄他人肖像来达成营销目的时,平台制定的防欺诈规则就显得非常虚弱。Instagram 虽然对 Deepfake 设置了标签提示,但当制作者本身就是算法圈的顶层玩家,这些治理工具往往会被包装成一种幽默的共谋。
这让我想起十九世纪的报业战争,为了销量与影响,出版商不惜捏造虚构人物和虚假新闻,以此煽动大众情绪。AI 时代本质上重演了这一套路,只是这次的工具不再是廉价印刷机,而是可以直接驱动视觉记忆的生成模型。
谁在承担后果
对普通开发者和内容创作者而言,这种娱乐化深伪是一种糟糕的信号,如果连 Sam Altman 都能被玩偶化,那么任何普通人的肖像在算法逻辑下都不再具备边界。
如果你是相关行业的观察者,接下来应观察 Meta 是否会因为参与方身份特殊,而在平台合规上选择豁免。一旦这种特殊待遇成为常态,所谓的 AI 安全治理就只剩下对底层小玩家的筛选,而无法约束那些掌握着算法阀门的权贵阶层。
真正的代价还未结算,当公众彻底丧失辨别真实权力的能力,AI 的技术透明度也就成了空谈。
