一句话看懂：美国安防公司 Flock Safety 正在为警察提供基于 AI 的“以文搜人”工具，允许摄像头根据文字描述持续自动搜索目标。但 Wired 的源码审查发现，其防护机制只能记录滥用行为，并不能真正阻止。
事件核心：发生了什么
Flock Safety 推出的最新搜索套件不再局限于车牌识别，而是让警察可以通过摄像头画面寻找特定人员。核心功能包括一个 AI 驱动的监控名单：警察可以在城市地图上划定区域，让该区域内所有摄像头按照一段文字描述（如衣着、体型特征）进行持续自动搜索，并对匹配画面进行排名。
Wired 获取并分析了 Flock 的软件代码，制作了警察操作界面的模拟图，并揭示了一系列关键设计。在过去一年中，Flock 因隐私争议面临多起解约和抵制——美国伊利诺伊州曾发现该公司允许联邦移民机构访问州内摄像头数据，违反州法律；还有德州副警长曾利用超过 8.3 万个摄像头搜索一名堕胎女性，引发国会议员致信施压。
为什么重要
Flock 的回应是在 8 月推出一系列整改：缩短数据默认保留期、要求每次搜索附带案件编号、增加自动审计以发现滥用。但 Wired 的代码分析显示，这些护栏更多是对滥用行为“记录在案”而非“拦截阻止”。真正的决策逻辑——比如哪些描述词会被判定为敏感、AI 模型如何给匹配结果打分——全部运行在 Flock 的服务器端，对使用方警察局完全不透明。
专家指出，Flock 让 AI 承担了一项至今没有技术能可靠完成的任务：在如此大规模的视频画面中准确匹配一段文字人物描述。任何系统在该尺度下都做不到精确，且外界无法度量其错误率或错误方向。这形成了一个责任困局：Flock 在界面上警告警察结果可能不准确、不应单独作为依据，却又将“任何不准确的风险”归责于执行搜索的警官个人。
对用户/开发者/创作者的影响
对开发者而言，Flock 的案例是一个典型的产品设计警示：当 AI 模型用于高风险决策时，无法解释的服务器端判断、模糊的内容审核边界，以及“能记录但不阻止”的软性护栏，会把产品置于巨大的法律和伦理风险之下。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
对采购这类安防工具的企业或政府部门，审查时应重点关注：AI 屏蔽哪些敏感搜索词（种族、宗教等）？审查记录保存多久？谁在后台能看到这些记录？如果供应商无法给出透明的技术说明，仅凭“内置安全措施”的承诺，风险管控实际上被外包给了供应商的单方面判断。
值得关注的后续
Flock 声称所有新规将在年底前强制执行，但 Wired 发现其整改代码仍有死角——例如在敏感内容分类中，唯独“政治、社会和文化表达”被设置成“减速带”而非“停止标志”，而这一类别恰恰是法院保护最严格的领域。此外，每当系统判定一次搜索违规，Flock 后台会记录警察输入的原始文字、模型分类及置信度评分，以及警察是继续、放弃还是申诉——这些干预数据是否会被用于训练或评估审核模型，目前公开信息尚未披露。后续值得观察：Flock 的整改能否阻止类似德州堕胎案那样的跨州大规模追踪，以及这是否会引发更多州级立法禁止警察使用无差别 AI 监控。
来源：Wired AI
