AI紧急警报即将到来,人类或许还没准备好

美国地方应急管理人员已开始用AI聊天机器人生成灾害警报和风险图,但输出内容出现气象学错误。专家指出,生成式AI在公共警报领域的应用可能已相当普遍,而多数应急机构尚未建立相应规范。

一句话看懂:美国地方应急管理人员已开始用AI聊天机器人生成灾害警报和风险图,但输出内容出现气象学错误。专家指出,生成式AI在公共警报领域的应用可能已相当普遍,而多数应急机构尚未建立相应规范。

事件核心:发生了什么

据Wired AI报道,飓风“伊萨亚斯”以三级强度登陆墨西哥湾沿岸后,阿拉巴马州一名气象学家向阿拉巴马大学先进公共安全中心主任劳拉·迈尔斯反映:当地一位县应急管理人员用AI聊天机器人生成了一张展示“刺状急流”大风可能威胁该县海岸的图件。迈尔斯称,这张图“符合使用者的意图,但在气象学上并不准确”。

目前大多数应急管理机构并不允许员工使用生成式AI,但迈尔斯等专家认为,州和地方灾害部门的实际使用可能已相当普遍。已有数百家公司向应急管理人员推销AI工具,用于洪水损失评估、资源协调等任务,公共沟通是政府雇员和初创公司兴趣最集中的领域之一。

为什么重要

应急警报的措辞直接关系公众是否采取行动。2017年托马斯山火后,加州蒙特西托的泥石流造成23人死亡、160多人受伤,部分原因在于警报未能让居民理解风险;2019年澳大利亚山火中“Watch and Act”的提法也被政府事后承认造成“显著混淆”。应急管理人员常把“信任是我们的货币”挂在嘴边,而错误警报会消耗这种信任。

从技术角度看,警报生成理论上是大模型的合适场景:它需要把专业信息改写成普通人能懂的语言。但迈尔斯的案例说明,生成式AI在缺乏气象校验时会产出看似合理却失真的内容。公共安全场景对错误容忍度极低,这与通用AI应用形成明显区别。

对用户/开发者/创作者的影响

对开发者和AI应用厂商而言,应急沟通是一个需求真实但门槛特殊的市场:产品需要接入权威气象与地理数据,并在输出前设置人工审核环节,而不是单纯追求生成速度。对普通用户来说,这意味着未来收到的官方警报可能部分由AI起草,但不应默认其准确。对内容创作者和研究者,迈尔斯与奥尔巴尼大学灾难研究者珍妮特·萨顿的工作提示了一个可验证的方向:警报模板、可读性评估和AI生成内容的标注机制,可能比模型本身更关键。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

其一,州和地方应急机构是否会出台针对生成式AI的明确使用政策,目前公开信息显示多数机构仍处于空白或禁止状态。其二,面向应急管理者的AI产品是否加入气象数据校验和人工复核流程。其三,FEMA等机构的相关培训能否覆盖AI生成警报的风险识别。上述变化将决定AI在公共警报领域是提升效率的工具,还是新的错误来源。

来源:Wired AI

celebrityanime
celebrityanime
文章: 30676

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注