一句话看懂：加拿大安大略省自2021年起使用的AI风险评估工具SAFER，被指控在监狱安全级别分类中系统性地将黑人囚犯更频繁地判定为最高安全级别。一项集体诉讼和独立调查指出，该工具依赖的历史司法数据本身存在种族偏见，且政府仅对原住民囚犯采取了调整措施，却对黑人群体缺乏同等保护。
事件核心：发生了什么
据新闻媒体The Breach的调查及安大略省政府公开数据分析，由多伦多大学犯罪学家Scot Wortley复核的数据显示，2022年至2025年间，黑人占安大略省总人口约5%，但在最高安全级别囚犯中占比接近27%；白人囚犯在该级别中的比例则显著低于其人口占比。用于评估囚犯风险的SAFER工具由研究人员Grant Duwe设计，自2021年起在安大略省监狱部署，它综合逮捕记录、违纪史等数据生成风险评分。律师事务所Koskie Minsky发起的集体诉讼指控，省政府明知该工具依赖的司法历史数据反映了警务和起诉环节中已存在的种族差异，却仅在针对原住民囚犯时采用了缓解措施，而未向黑人囚犯提供同等保障。内部培训文件承认，“SAFER等评估工具很可能加剧原住民和种族化群体在最高安全级别监狱中的过度代表”。安大略省监察专员办公室的报告也证实收到了关于该工具对黑人和原住民囚犯产生不成比例影响的投诉，省司法部对该工具的审查仍在进行中，SAFER的设计者和安大略省司法厅均未回应置评请求。
为什么重要
这一事件暴露了AI风险评估工具在公共治理中的普遍风险：当模型训练数据本身包含系统性偏见时，工具输出会放大而非纠正原有的不平等。SAFER并非孤例——美国多州使用的COMPAS等再犯风险评估工具同样被批评对少数族裔不利。此案的关键不在于算法是否有意歧视，而在于开发者和管理者是否在明知偏见存在的情况下，仅针对部分受影响群体进行修正，这直接触及AI责任伦理与算法公平性的核心问题。此外，安大略省政府在政务AI采购中对算法审计和种族影响评估的缺失，也为全球其他地区部署类似司法AI工具提供了警示：模型精度≠公平性，历史数据的结构性偏差必须被主动干预。
对用户/开发者/创作者的影响
对AI开发者与产品设计者而言，此案提醒：在司法、信贷、招聘等涉及公民基本权利的敏感领域部署AI工具时，必须进行包含人口统计学维度的偏见审计——不能仅因训练数据“客观”就默认输出中立。对公共采购方的企业和技术负责人来说，SAFER案例说明，仅针对单一群体采取“缓解措施”可能不足以应对法律和公共舆论风险，公平性保障需要覆盖所有可能被影响的群体。对于关注AI伦理的创作者与研究者，这是一次极佳的案例研究素材：如何通过公开数据、调查记者报道与学术分析，揭示一个政府AI系统的实际运作瑕疵。对普通用户来说，这警示我们：你可能并不是直接用户，但算法对人的分类与评级正实际影响他人的基本权利，而这些系统的决策过程往往缺乏透明度和有效的用户申诉渠道。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
1. 集体诉讼进展：法院是否会要求安大略省政府公开SAFER模型的技术文档、训练数据集及超参数细节？这将直接影响其他刑事司法AI工具的可信度。2. 政策补救措施：政府是否会对SAFER算法的种族影响进行独立第三方审计，并暂停其使用直到偏见问题被解决？类似逻辑也适用于其他国家的司法AI采购。3. 监管先例：加拿大目前没有专门针对政府AI工具的强制性偏见影响评估法规，此案可能推动省或联邦层面提出立法要求：所有公共安全领域AI系统必须通过种族、性别、经济地位等多维度公平性测试后方可上线。4. 模型设计改进：如果SAFER重新设计，是否会放弃基于历史矫正数据的风险评估，转向更注重当前行为表现和康复需求的动态评估模型？这将为全球司法AI提供新的技术路线参考。
来源：Mashable
