Google Earth 新增 AI 图像生成功能，因用户制作灾难虚假图片，上线不到一天即被下架

事件核心：发生了什么

Google 于 7 月 30 日在 Google Earth 中推出一项 AI 图像编辑功能，让用户通过 Gemini 的 Nano Banana 2 图像模型，用文本提示词将地球上的真实地点转化为 AI 生成图像。该功能原本面向地理空间专业人士，但开放数小时后即被滥用：AI 研究者 Henk van Ess 在美墨边境生成了大规模难民营影像，甚至“建造”了一座伊朗核电站；气象播报员 Peter Forister 则在 20 秒内生成了虚假洪水和龙卷风灾害画面。另有用户制造出类似 9·11 事件的攻击图像，并在社交媒体上标注“非真实图像”后广泛传播。

Google 发言人在 X 平台表示，该功能确实被用于地图信息更新等正当用途，但分享出的生成截图违反了平台政策，因此决定回滚功能并强化安全护栏。Google 同时指出，所有 AI 生成图片均带有水印，不会出现在公开的 Google Earth 体验中。Meta 也遭遇过类似尴尬：其 7 月 7 日上线的 Muse Image 功能，允许用户基于公开 Instagram 账户生成图像，因争议过大在不到一周内被撤下。

为什么重要

这是大模型图像生成技术第一次与真实地理信息产品深度打通，但事件证明，当生成能力被置于“真实世界”这一语境中时，制造误导的成本降到了几乎为零。过去生成一张“洪灾现场”需要专业图像处理能力，如今只需一句文字提示：难分辨的伪影像可直接冲击灾害应急、公共安全甚至外交事务。对于 Google 而言，这不仅是功能回滚的问题，更暴露了 AI 产品在可用性与安全性之间的测试短板：公司能快速上线高速增长型功能，却未同步构建足够的内容滥用边界。这一事件也会让 OpenAI、Meta、微软等大模型厂商重新审视生成工具的发布策略，大幅影响地理类 AI 产品的推进节奏。

对用户/开发者/创作者的影响

普通用户需要提高图像辨别意识，尤其是来源不明但视觉可信的“卫星图”或“灾难现场图”，生成内容的水印排查将变得更加重要。对开发者而言，这说明图像的“真实感”和地理信息叠加会带来巨大的合规风险；API 调用若缺乏关键词过滤、地理敏感区域限制或生成结果追溯机制，上线后很快会成为恶意用途的温床。创作者则应注意到头部平台对 AI 生成内容的审查正在收紧——这类具备高度真实感的生成工具即便开放，也很可能被默认追加更强限制，例如禁止生成政治敏感地点、紧急事件或伤亡场景。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

目前公开信息显示 Google 尚未公布具体迭代时间表，可以关注三个方向：其一，Google Earth 恢复该功能后，是采用更严格的关键词拦截，还是仅允许在沙盒环境中使用；其二，此事件是否会被美国或欧盟监管机构引用，进而推动 AI 生成地理影像的强制标识法案；其三，Meta、Google 相继撤回生成功能后，其他头部公司是否会对 C 端用户的图像生成入口采取“先限制后开放”的保守策略，而这可能直接改变照片编辑类 AI 产品的当前市场格局。</p