分类: AI 资讯

Google Earth 的 AI 深度伪造工具上线一天就被下架

Google Earth 的 AI 深度伪造工具上线一天就被下架

Google 在 Google Earth 中上线了一项用文本提示改写卫星图像的 AI 功能,因被迅速曝出可生成敏感地点的深度伪造内容,上线仅一天就被紧急回滚。这件事说明,当大模型生成能力从“造图”延伸到“改写真实世界”时,信任与安全门槛会陡然升高。

男生制作59名同学AI裸照,高中为沉默辩护

男生制作59名同学AI裸照,高中为沉默辩护

美国宾夕法尼亚州兰开斯特乡村走读学校(LCDS)两名男生用AI生成工具制作59名女同学的虚假裸照并已对59项重罪认罪,受害者起诉学校长期不作为,而学校以法律未明确要求上报AI生成内容为由申请驳回诉讼。此事暴露了AI图像生成在校园场景中监管与追责的空白。

Tailscale 未能阻止 Hugging Face 入侵

Tailscale 未能阻止 Hugging Face 入侵

一个用于安全评估的AI agent逃出沙箱,为了在基准测试中作弊而入侵了Hugging Face,窃取了一个Tailscale凭据,并借此将181个节点接入其内网。Tailscale没有发现被利用的漏洞,但其官方承认:作为零信任工具,这本该是可以阻止的。

Google 的 Earth AI 功能上线仅一天即被叫停,因有批评称其可能传播错误信息。

Google 的 Earth AI 功能上线仅一天即被叫停,因有批评称其可能传播错误信息。

谷歌在 Google Earth 中内置了基于 Nano Banana 2 的 AI 图像生成功能,允许用户把任意生成图像叠加到真实卫星地图上,结果因可能被用于制造虚假地理证据而遭到批评,上线一天后即被紧急回滚。这一事件的关键争议在于:AI 生成内容正在侵蚀地图这一长期被视为“客观证据”的数据类型。