专家称谷歌地球新AI工具可能助长虚假信息

事件核心：发生了什么

Google 在本周四把 Nano Banana 2 图像生成器集成到 Google Earth 中，允许用户将 AI 生成的事件和物体叠加到真实卫星图像上。BBC Verify 实测后指出，利用该功能可以生成包括倒塌的埃菲尔铁塔、吞没吉萨金字塔的天坑、以及出现在基辅的俄罗斯坦克等虚假画面。Google 声称生成图片带有不可见水印，可通过 Gemini 或 Lens 检测，但 BBC 发现这些防护措施以及部分第三方检测工具，都能被诱导将篡改后的图像标记为真实。

AI 与虚假信息专家 Henk van Ess 也在测试中制造了伊朗不存在的核电站、美墨边境的难民营地，以及加沙地带一处带着炸弹弹坑的假医院。他评论说，Google 正在允许“虚构图像”“焊接到真实坐标上，绘制在真实图像上”，伪造内容会继承地图本身的可信度。事件发酵后，Google 于 7 月 31 日宣布回滚 Google Earth 内的图像生成功能，称正在加强护栏，并强调生成图片不会在主体验中展示给其他用户。

为什么重要

这次事件的核心问题不在于 AI 图像生成能力本身，而在于它被放置到了错误的位置：Google Earth 长期被视为“可靠地看世界”的工具，其核心价值是地理真实性。在真实卫星影像上合成虚构元素，相当于用地图的权威性给 AI 生成内容背书。即便有不可见水印设计，一旦防伪机制能被绕过，这种“可信度借壳”带来的误导风险，远超普通 AI 图片在社交平台传播时的语境。

从行业角度看，这也说明生成式 AI 的检测与治理仍滞后于生成能力。Nano Banana 2 作为 Google 的图像生成模型，在独立使用时的风险可控，但一旦与地理信息、搜索入口等高度可信场景结合，就会大幅放大虚假信息的破坏力。Google 的快速回滚则表明，AI 产品上线前对滥用场景的推演，已经成为与大模型能力同等重要的工程问题。

对用户/开发者/创作者的影响

对普通用户：不要仅凭“地图上看到”就信任一张图片的真实性。卫星图也可能被篡改，识别来源与检测工具都只是辅助，关键信息需要交叉验证。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对开发者和创作者：调用 Nano Banana 2 或其他图像生成 API 来制作合成内容时，应主动标注 AI 生成属性，并评估素材被嵌入真实场景后可能被误读的程度。任何带地理坐标、新闻现场属性的生成内容，都需要比普通创意图片更严格的使用边界。此次回滚也提醒开发者，技术提供方的审核政策可能随时收紧，产品设计不应依赖于某一项图像生成功能的长期可用性。

值得关注的后续

第一，Google 回滚后将以何种形式恢复该功能，“更强护栏”具体落在内容审核、水印升级还是用户权限上，值得追踪。第二，Nano Banana 2 是否会转向限制更严的 API 或独立入口分发，这关系到创作者与开发者的可用选项。第三，BBC 和 Henk van Ess 展示的绕过水印案例，是否会推动行业建立更严肃的 AI 图像取证标准，以及 Gemini、Lens 等检测工具的识别能力能否同步跟进。

来源：Slashdot