8月17日,404 Media发了一期播客预告,标题挂着"deepfake的未来与现实的衰落",嘉宾是这个领域绕不开的名字——Hany Farid。他是PhotoDNA的开发者,这套算法现在是全球几乎所有主流平台自动识别删除儿童性虐待图像等违规内容的行业标准;他也是深度伪造检测公司GetReal的联合创始人。但打开这篇文章会发现,除了一段导语式的回顾,实质内容全部锁在付费墙后面。这本身就是个值得说的现象:科技媒体报道AI议题,"专家深度访谈"经常是标题党,真正的信息量分散在别处。
Farid真正说过的东西,反倒藏在过去一年多他自己的多个公开渠道里——一场伯克利讲座、一期专门讨论deepfake检测的播客、一部PBS/NOVA的纪录片。拼起来看,有两组数字比"和专家聊了聊"这个框架本身重要得多。
人眼判断AI造假,已经接近抛硬币
在伯克利那场讲座上,Farid给出了具体数字:人类辨别AI生成人脸/图像的准确率大约55%到65%,辨别克隆语音的准确率大约60%到65%,辨别AI生成视频的准确率大约62%到68%。随机猜测的基线是50%。也就是说,普通人靠肉眼和耳朵去分辨真假,现在只比抛硬币强一点。
这个数字比"人眼越来越难分辨deepfake"这类模糊说法精确得多,也比公众直觉更悲观——很多人以为自己"至少能看出个大概",数据说的是几乎看不出来。
检测器也没那么可靠
行业常见叙事是"检测技术会追上生成技术"。Farid团队自己的一篇CVPR研究给这个叙事泼了冷水:同一批检测器,在不同类型的AI生成视频上测试,准确率从43.4%一路跳到99.0%。同一套系统,换一个没见过的生成器,表现可能直接崩掉。
实验室里跑出99分,不等于遇到新造假手法还能打过随机猜测。
这对新闻核查、法庭取证是个实际问题——检测器在自己训练集里表现优异,不代表能应付现实世界层出不穷的新生成模型。GetReal官方的说法也侧面印证了这点:它把自己描述成结合自动化模型、信号分析、文件法证与人工专家复核的分层系统,而不是一个"输入图片,输出真假"的单一工具。这等于承认,靠一个模型一次性判定真伪的路线本身就走不通。
- 风险.检测器的高准确率往往是同分布测试的结果,面对训练之外的新生成器,泛化能力可能大幅下滑,不能直接套用到实际取证场景。
水印和溯源,解决的是另一个问题
Farid更常提到的方案不是"更好的检测器",而是C2PA内容凭证这类溯源标准——给内容打上加密签名的"清单",记录它从哪个设备、哪个模型生成,业内常把它比作食品包装上的营养成分表。这套体系的逻辑和检测完全不同:它证明"这段内容是谁做的",不直接证明"这段内容是不是真的"。
一个容易被忽略的逻辑陷阱是,没有水印的内容不能反推成"真实内容"——很多真实拍摄的素材本来就不会带水印,而恶意造假者也可以直接跳过带水印的正规生成工具。
四层叠在一起,能把作假成本抬高,但抬不平根本的不对称:生成一段假内容几乎不花钱,验证它的真假却要投入取证团队、专有算法和人工复核。只要这个成本差没被填平,骗子红利——"反正现在啥都可能是假的,你也证明不了我说的是真的"——就会一直有生存空间,不管检测器分数多高。
接下来该看什么
对新闻编辑部和事实核查团队来说,现实一点的做法不是等一个"万能检测器",而是盯紧C2PA这类溯源标准有多少相机厂商、软件公司和生成平台真的落地,以及这些标签能不能扛住裁剪、转码这类简单的绕过手段。对普通读者,更实际的提醒是别把"我看得出来"当保障——55%到68%的准确率已经说明,单靠肉眼判断,大概率会错。