AI 误判致美国男子含冤入狱三月 人生坠入「斩杀线」– 快科技 — 科技改变未来
一句话看懂：美国北卡罗来纳州一名男子因警方使用的人脸识别AI工具FACES误判，被错误关押近3个月。尽管他拥有不在场证明，警方仍仅凭AI给出85%相似度的匹配结果实施逮捕，这起事件暴露了AI工具在执法中缺乏核查机制带来的严重社会风险。
事件核心：发生了什么
2024年4月，佛罗里达州杰克逊维尔市发生一起车辆盗窃案。警方调取监控后，使用名为FACES的AI面部识别工具进行分析，系统从数据库中匹配出北卡罗来纳州居民贾利尔·理查德森的照片，显示85%的相似度。尽管理查德森从未到过佛州，案发时他正在北卡罗来纳州上班并有完整考勤记录，两地相距超过800公里，警方仍仅凭这一AI结果发出逮捕令。他先在北卡罗来纳州被关押33天，随后被引渡至佛州再关50多天，共计近3个月。杰克逊维尔警长办公室（JSO）承认，这是该部门第二起类似AI误识别案例。检察官最终撤销指控，但理查德森已失去工作、住所和部分孩子的监护权，其家人表示生活被彻底摧毁。理查德森本人怀疑种族因素在误认中起了作用，因为目击者描述与他的外貌特征存在明显差异。
为什么重要
这起事件是AI技术误用于执法系统的典型案例。人脸识别AI目前在公共安全领域被广泛部署，但其准确率受限于训练数据多样性、光照条件、角度差异等因素。FACES这类工具在给出85%匹配度时，本应作为调查线索而非唯一证据，但本案中警方未做任何交叉验证，直接将其作为逮捕依据。这暴露了两个关键问题：一是AI工具缺乏透明度，执法者难以判断匹配结果的可靠性；二是指挥链条中缺少“人类核查”环节，导致技术错误直接转化为司法错误。对AI行业而言，这起事件强化了公众对“算法歧视”和“技术滥用”的担忧，可能推动各州立法者要求AI执法工具必须通过认证并保留人工复核流程。
对用户/开发者/创作者的影响
对AI工具开发者：这起事件是强烈的警示——人脸识别系统在执法场景中的误报率容忍度极低，开发者需要公开模型在不同种族、年龄、性别群体上的精确率与召回率数据，并设计明确的“人工复核”接口。对于API调用者，应在匹配结果低于某个阈值（如95%）时自动标记为“需人工确认”。
对企业采购方：政府或企业采购AI安防工具时，合同应当强制要求供应商提供独立第三方审计报告，并约定因误判导致的法律赔偿条款。
对普通用户：这起案件表明个人信息一旦被纳入执法数据库，就可能在没有充分证据的情况下被错误关联。用户应关注各州关于人脸数据收集和使用的法规动向，了解自己是否有权要求从执法数据库中删除照片。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 杰克逊维尔警长办公室是否会对FACES工具的部署政策进行调整，例如引入“AI匹配结果不得作为逮捕唯一依据”的内部规范。
2. 理查德森是否会对执法部门提起民事诉讼，这可能成为人脸识别误判领域的重要判例，影响后续赔偿标准和使用边界。
3. 北卡罗来纳州或佛罗里达州是否会出台专门法案，要求AI执法工具在输出结果时必须附带置信度区间和风险警告，目前公开信息显示相关立法讨论已在州议会启动。
来源：Readhub · AI
