徒步旅行者使用Google Gemini规划后获救

三名徒步者在美国加州沙斯塔山依靠 Google Gemini 规划行程,因补给严重不足被困山中,次日上午获救。这是继“AI 导航错误”之后,大模型在现实物理世界中因信息偏差导致危险的又一典型案例。

一句话看懂:三名徒步者在美国加州沙斯塔山依靠 Google Gemini 规划行程,因补给严重不足被困山中,次日上午获救。这是继“AI 导航错误”之后,大模型在现实物理世界中因信息偏差导致危险的又一典型案例。

事件核心:发生了什么

据《芝加哥论坛报》报道,美国加州锡斯基尤县警长办公室透露,三名年轻徒步者于凌晨 3 点从沙斯塔山出发。当地惯例要求徒步者若中午前未登顶必须折返,但这三人直到晚上 7 点才登顶,随后在黑暗中尝试下撤,最终因迷路报警,在泥溪峡谷过夜,次日清晨由林务局护林员和志愿者救出。

警长办公室在报告中特别提到,这三名徒步者“听从了 Gemini 的建议,携带的食物和水远少于团队实际需求”,而计划中 8 小时的攀登最终演变成持续数日的救援行动。报告同时提醒公众,出行前应联系当地沙斯塔山护林站获取准确信息,不要仅依赖 AI 进行行程规划。

为什么重要

这起事件的核心问题不在于 Gemini 编造信息,而在于大模型在缺乏实时、地域性数据的情况下,给出的建议可能看似合理却存在致命偏差。当前主流大模型在通用知识问答上表现优秀,但对特定山区的天气窗口期、雪线变化、补给站位置这类高度本地化且有时效性的信息,训练数据无法覆盖,模型又没有可靠渠道获取实时数据源。

对 Google 而言,这起事故暴露了 Gemini 在“高危险性建议”场景下的不确定性——它既没有主动声明自身知识局限,也没有在用户询问户外生存补给时触发风险提示。相比之下,用户在搜索引擎上检索官方护林站信息反而更容易得到权威答案。这也再次印证:大模型的流畅表达与事实可靠性之间仍有明显距离。

对用户/开发者/创作者的影响

对普通用户,尤其是户外活动爱好者,应把 AI 聊天机器人当作“信息起点”而非“决策终点”。涉及人身安全的行程,需交叉核对官方机构信息(如护林站、国家公园通知),不要直接采用模型给出的食物配比或时间估算。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开发者而言,若正在构建旅行规划、户外助手等 AI 应用,这一案例是必要的提醒:应当在提示词和系统层面对高风险场景做出约束,比如在用户询问登山、航海、偏远地区自驾时,主动提示“AI 不具备本地实时天气和路况数据”,并附上官方咨询渠道。这类安全边界设计不是可选项,而是责任底线。

对创作者和内容生产者来说,在推荐任何 AI 工具用于线下活动前,应明确标注模型的适用边界,避免因“工具好用”的笼统推荐间接引导用户做出危险判断。

值得关注的后续

目前公开信息显示,涉事三人已获救,但尚不清楚其是否因准备不足面临违规罚单。值得观察的后续包括:

第一,Google 是否会针对 Gemini 在户外安全、健康医疗等高风险领域增加更明确的风险提示或拒答机制;第二,类似事件是否会促使地方政府在热门步道入口增设“AI 建议可能不准确”的警示标识,或推动大模型公司与护林站合作接入官方数据接口;第三,此次事故是否会被作为 AI 安全讨论的案例,影响美国州一级对大模型责任认定的立法走向。

来源:TechCrunch AI

celebrityanime
celebrityanime
文章: 22022

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注