404 Media 实测“昊天AI”：实时换脸开始变成诈骗工具服务

404 Media 披露了一件很具体的事：记者通过 Telegram 联系卖家，付费买到并测试了一款名为“昊天AI”的中文实时换脸软件。

它不是只能生成一段假视频。报道称，它可以在 WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram、YouTube 等常用平台的视频场景里，把使用者的脸实时替换成别人。

这才是反常点。

过去很多人把“开视频”当成最后一道确认：老板要转账，客户要开户，远程面试要验人，亲友借钱要看脸。现在这道确认开始变薄。屏幕里的人会动、会说话、会互动，但未必就是本人。

我更在意的，不是昊天AI这一个工具有多强，而是实时深伪正在从演示技术变成灰产服务。它有价格，有客服，有远程安装，有定制模型，还有加密货币收款链路。

技术一旦有了售后，风险就不再只属于工程师。

404 Media 买到的不是 Demo，而是一套服务

404 Media 称，记者通过 Telegram 接触昊天AI卖家，多轮沟通后付费购买，并在安全研究人员协助下完成测试。卖家提供远程安装和技术支持，记者还测试了预置脸和自定义模型。

这里要保持边界。报道没有说 404 Media 掌握了完整源代码，也没有证明所有用户都是诈骗者。报道的说法是：这款软件被面向诈骗者销售，并且可能基于开源换脸工具改造。

但从交付形态看，它已经很接近“诈骗工具即服务”。

这和早期深伪诈骗有明显区别。

早期更多是离线假视频：伪造名人投资广告、色情勒索、社交平台假内容。实时换脸把风险推到了正在发生的互动里。对方可以接话，可以点头，可以在会议里出现。

受影响最直接的是两类人。

一类是企业里能触发钱和权限的人：财务、HR、客服、远程开户、供应商管理、跨境业务团队。以后高风险转账、改收款账户、远程入职和权限开通，不能只靠一次视频确认。

另一类是普通用户里最容易被“看见本人”说服的人：亲友借钱、网恋对象、投资群导师、冒充公检法或平台客服的人。视频不再等于可信，只能算一个信号。

检测工具还在追，风控不能只看脸

404 Media 引述研究者 Charles Fross 的说法称，一些检测模型在昊天AI样本上表现很差。其中 Xception 模型几乎把昊天AI生成样本误判为真实。

这不等于所有检测工具都失效。也不能推出“深伪已经无法识别”。

更准确的判断是：检测端和灰产工具之间有时间差。攻击者可以买到更新的工具，平台和企业的规则却常常还停在上一代样本上。

这对风控是个提醒：不要把“脸像不像”当成核心证据。

高风险场景应该改成多信号核验。比如财务转账，视频确认后还要回拨已登记号码；供应商改收款账户，必须走独立审批链；远程面试和开户，要结合设备指纹、账号历史、证件材料、行为节奏和异常环境。

个人也一样。亲友在视频里借钱，尤其是临时换号、催促转账、拒绝回拨时，最简单的做法不是继续盯脸，而是挂断后打回原号码，或问一个只有双方知道的问题。

这听起来很笨，但安全经常靠笨办法。

也要看到现实限制。实时深伪不是无成本魔法。它需要算力、素材、配置和网络环境，效果会受光线、角度、遮挡、目标脸部素材质量影响。

昊天AI的危险不在于让每个人都能一键骗过全世界，而在于它把原本需要技术能力的部分外包给了卖家。诈骗团伙不用自己造工具，只要采购服务。

这就是门槛变化。

链上资金说明它已经接入灰产网络

报道里最值得安全行业盯住的，是支付和链上关系。

Chainalysis 称，相关昊天AI钱包自 2023 年 10 月以来流入超过 400 万美元。这不能直接等同于公司确认收入，也不能证明每一笔付款都来自犯罪。

但这个数字至少表明，它不是一个无人问津的小玩具。

Chainalysis 还称，这些钱包与 HuionePay、华语洗钱服务，以及数字篡改、翻译等诈骗技术供应商存在链上交互。放在东南亚诈骗生态里看，这条线索很关键。

诈骗园区早就不是几个人拿着手机乱骗。它更像分工明确的流水线：有人引流，有人写话术，有人翻译，有人做假身份材料，有人收款，有人洗钱。

实时换脸补上的，是“视频信任”这一环。

接下来不该只盯某个 Telegram 频道会不会被封。频道可以换，名字可以改，工具可以改包。更要看三个变量：

• 平台是否会在视频通话、直播、私信导流里加入深伪风险提示和异常检测；
• 企业是否把转账、开户、入职、改权限从“视频确认”升级为多因素复核；
• 执法和链上分析能否切断它的收款、客服、分发和洗钱链路。

最可能先动的，是金融、招聘、跨境贸易和远程客服团队。

采购和风控会更谨慎。原来一次视频就能放行的流程，可能会延后，改成回拨、复核、留痕和分级审批。效率会下降，但这笔成本比被骗后追款便宜。

普通用户的动作更简单：别把视频当证据链的终点。它只能证明屏幕里出现了一张会动的脸，不能证明对面就是那个人。

这也是昊天AI这件事真正提醒我们的地方。深伪诈骗的门槛，正在从“会不会做”变成“买不买得到”。当工具进入客服化、订阅化、链上收款的阶段，骗局就不再靠单点技术突破，而是靠交付能力扩散。