Google 用不到24小时,把自己刚上线的功能又撤了回去。
7月30日,Google 把最新的 Nano Banana 2 图像生成模型接入 Google Earth。用户输入一句话,就能在真实卫星影像上生成一个不存在的场景。第二天,Google 在 X 上宣布回滚,Ars Technica 确认这个功能已经从产品里消失,官方没有给出详细解释。
问题不在于"AI又能造假图"——这早不是新闻,市面上现成工具一抓一大把。真正的问题是,Google 把造假能力直接接进了自己那张长期被开源情报机构当作核验依据的底图。伪造成本从原来的六步流程,压缩到一句话、几秒钟。
官方设想的用途,和实测跑出来的场景不是一回事
Google Earth 产品经理 Bryan Horowitz 在官方博客里给这个功能画了两个场景:地产商展示楼盘完工效果,老师带学生"穿越"回公元78年的庞贝古城。
独立调查员 Henk van Ess 拿这个功能做了另一种测试:让 Googleplex 总部"起火"、让伊朗"建起"一座核设施。Bellingcat 创始人 Eliot Higgins 也测试出一张图——一座巨大的金色雕像立在白宫上方。这些都是研究者做的示范,不是真实发生的事,但足以说明问题:底图是真的,场景是编的,两者被无缝拼在一起,肉眼很难分辨。
| 官方宣传场景 | 实测跑出的场景 | |
|---|---|---|
| 用途 | 楼盘效果图、历史教学 | 虚构灾难、虚构敏感设施 |
| 风险等级 | 低 | 高,涉及地缘政治敏感地点 |
| 产品说明是否设限 | 未见明确限制 | — |
产品说明没有对"仿造真实敏感地点"做出限制,这是这次功能被叫停的直接原因。
六步变一句话,被稀释的是底图本身的可信度
van Ess 提到过一个真实先例:此前有人用 Gemini 把一张巴林美国海军第五舰队基地的 Google Earth 截图,P 成了"遭伊朗无人机袭击"的假画面,整个过程大约要走六步。Google Earth 这次把六步压缩成一句话、几秒钟。
门槛降低本身不算新鲜事。新鲜的是,这次降低发生在一款被广泛当作证据来源的产品里。Bellingcat 这类开源情报机构,核实照片、视频拍摄地点时,常年把 Google Earth 当基础工具。底图和造假工具变成同一个产品,底图的可信度就被自己的功能稀释了。
SynthID挡得住裁剪压缩,挡不住手机拍屏幕
Google 撤回功能前强调,每张 Nano Banana 生成的图片都带 SynthID 数字水印,用户可以用 Gemini 或 Lens 查验。Ars 此前测试过,这套水印能扛住相当程度的裁剪、压缩,效果不差。
但两个限制卡在实际核查场景里。一是 Gemini 对 SynthID 的检测次数,每天大约只有10次,批量核查根本不够用。二是水印靠文件本身携带的隐藏信息,一旦图片经过手机拍屏幕、截图转发、视频转码这类"脏"传播路径,水印大概率读不出来。Ars 用手机对着一张 AI 改图拍照再验证,SynthID 没能给出任何检测结果。
对调查记者、开源情报人员和事实核查团队来说,这意味着一件具体的事:不能再把"这张图是 Google Earth 风格的底图"当成可信度的隐性背书。看到类似截图,得先查图片来源账号,找原始高清文件,和其他公开卫星影像交叉核对,而不是看一眼底图风格就放行。
Google 有没有在功能重新上线时,把检测次数上限和溯源能力补上,是接下来唯一值得盯的事。