上线即翻车，谷歌地球AI生图功能因伪造灾难影像紧急下架

【区角快讯】当科技巨头试图将生成式AI嵌入地理空间工具时，往往低估了“真实坐标”带来的信任溢价。当地时间7月30日，谷歌在网页版Google Earth中正式集成基于Gemini Nano Banana 2模型的图像生成功能。用户只需锁定全球任意经纬度，输入文本指令，即可在卫星底图上合成全新场景。官方初衷颇为美好，宣称该工具适用于城市愿景规划、历史风貌复原及地理教学辅助。

然而，理想与现实仅隔数小时便发生剧烈偏离。多位开源情报分析师与事实核查记者迅速介入测试，结果令人咋舌：系统缺乏有效的关键词过滤机制，几乎处于无限制状态。研究者轻易生成了极具误导性的虚假影像，包括美国国会大厦遭洪水围困、伊朗核电站爆炸起火、城市中心出现巨型弹坑，以及边境难民潮和战区空袭损毁画面。更棘手的是，部分合成图甚至骗过了现有的AI检测算法，被判定为真实拍摄。

这与普通创意绘图有着本质区别。Google Earth长期作为新闻机构核实突发事件的核心信源，公众对卫星截图抱有天然的信任感。肉眼难以分辨的伪造成果一旦在社交网络裂变传播，极易引发大规模恐慌，严重干扰灾害救援与国际冲突的信息甄别。尽管谷歌辩称所有生成内容均嵌入SynthID隐形水印，且不会同步至公开地图，但在实际传播链条中，截图经裁剪压缩后水印极易失效，源头管控形同虚设。

业内观点指出，绑定真实地理位置的AI影像具备特殊的危害性，其煽动地缘矛盾或制造虚假灾难传闻的能力远超常规图片。面对汹涌舆论，谷歌于7月31日发布声明，承认部分用户传播的截图违反平台政策。在构建更严密的内容风控体系之前，该项功能已被暂时移除，至于何时重新上线，目前尚无明确时间表。这一事件再次警示业界，地理空间AI的安全护栏必须跑在技术落地之前。