一句话看懂：谷歌AI搜索（AI Overviews）曾因用户输入“独自与非洲人/印度人/巴基斯坦人在一起”等提示词，给出“拨打紧急电话”的危险建议，而对英国人则建议聊天气。舆论发酵后谷歌移除了基于国籍的建议，但测试发现，当提示词涉及“来自Facebook的人”时，系统仍会建议用户离开并报警。
事件核心：发生了什么
据The Decoder报道，Reddit用户最早发现谷歌AI Overviews在特定提示词下的异常回复。Futurism的后续测试证实，当搜索词包含“独自与某个国籍的人在一起”时，AI摘要会建议用户“前往安全地点或拨打紧急服务电话”；若对象是英国人，AI则建议喝茶并闲聊天气。谷歌在X平台回应称这些结果未达到自身标准，正在修复，并强调答案因提示词不同而差异巨大，并非只针对特定群体。谷歌向Futurism解释，“alone”一词是触发该建议的关键词。最初问题曝光后，涉及国籍的提问已恢复“正常”，但Futurism随后发现，当用户询问“独自与来自Facebook的人在一起”时，AI仍然建议“离开该区域，必要时拨打110”。
为什么重要
这一事件暴露了生成式AI搜索在安全边界与偏见控制上的脆弱性——大模型在推理“风险场景”时，容易将国籍、平台身份等群体标签与危险强关联，且修复往往只针对已曝光的“热点词”，难以根除底层语义偏见。对行业而言，这提醒AI搜索产品不能仅依赖用户反馈打补丁，需要在训练阶段引入更严格的安全对齐与公平性评估。同时，谷歌作为闭源大模型的主力玩家，其AI Overviews的每一次“翻车”都在动摇用户对AI信息入口的信任，直接影响生成式搜索与传统搜索排名共存的商业化节奏。
对用户/开发者/创作者的影响
普通用户在使用AI搜索获取安全建议时，应清醒认识到当前模型无法做真正的情景判断，紧急情况下仍需依赖官方急救电话或权威信源。开发者和创作者在调用Gemini API或谷歌搜索Grounding接口构建应用时，需要为“风险提示类”输出设计额外的规则过滤层，避免让模型承担现实世界的人身安全责任。同时，此类事件也提醒内容创作者，AI生成内容中的群体偏见和地域刻板印象具有隐蔽性，审核与人工抽检机制不能省略。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
目前公开信息显示，谷歌仅表示“正在修复”，并未公布系统性解决方案。值得重点观察三点：一是谷歌是否会在搜索质量文档中更新针对AI Overviews中“人身安全类提示”的触发规则；二是美国政府或欧盟监管机构是否会将此案例纳入AI偏见审计的样本，倒逼企业公开更多安全测试数据；三是微软Bing、Perplexity等竞品是否跟进调整自己的AI摘要策略，以展示更“中性”的危险场景响应能力。
