一袋Doritos触发AI枪支警报,美国四名黑人高中生遭警察持枪包围后起诉

2025年10月,马里兰州巴尔的摩县四名黑人高中生因校方AI枪支检测系统误将一袋Doritos识别为枪支,被持枪警察包围、搜身,现起诉学校和警方,要求停用该AI系统。

一句话看懂:2025年10月,马里兰州巴尔的摩县四名黑人高中生因校方AI枪支检测系统误将一袋Doritos识别为枪支,被持枪警察包围、搜身,现起诉学校和警方,要求停用该AI系统。

事件核心:发生了什么

2025年10月,巴尔的摩县公立学校四名学生课后分食Doritos时,校方部署的AI视觉枪支检测系统Omnilert误报其中一人持枪。校方查看监控后约两分钟内已确认无威胁并取消警报,但仍通知警方到场。至少六辆警车抵达,警员拔枪,将学生按跪在地、戴手铐并搜身,未发现武器后才释放。诉讼称,有警员事后嘟囔“愚蠢的AI摄像头”“该死的Omnilert”,并提醒学生“小心薯片袋”。

为什么重要

此案把AI视觉安防的误报代价具体化:系统误判后,人工复核虽已排除风险,但流程与沟通失误仍让误报升级为武装执法。Omnilert曾宣传“接近零误报”,而诉状指出,这一说法依赖充分人工审核,学校却未建立相应协议。目前公开信息显示,该校是Omnilert最早采用者之一,官方称其为“最大规模AI视觉枪支检测部署”。诉讼由民权组织代表学生提起,核心问题是:公共安全场景中,AI的决策边界与人工责任如何划分。

对用户/开发者/创作者的影响

对安防AI采购方,这一案例说明误报率不是唯一指标,警报取消后的响应流程同样关键。对开发者,高敏感场景中的AI系统需要明确的人工复核节点和可审计日志,而非仅靠模型指标。对内容创作与公共讨论而言,应区分“AI误报”与“执法过度”两个责任主体,避免把系统缺陷和流程失误混为一谈。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是法院是否批准禁令,要求BCPS停用Omnilert直至建立防误报响应协议;二是Omnilert的“接近零误报”宣传是否面临监管或诉讼层面的追问;三是其他采用同类系统的学区是否会因此调整警报复核与警方联动流程。

来源:Ars Technica

celebrityanime
celebrityanime
文章: 36180

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注