英格兰和威尔士警方被告知停止在法庭声明中使用人工智能

一句话看懂：英格兰和威尔士警方被上级指令，要求立即停止在法庭声明（如证人证词、案情摘要等法律文书）中使用人工智能工具。问题核心在于，警方在未完成充分评估的情况下，就仓促将AI（特别是微软Copilot）用于对准确性和可靠性要求极高的法律文书生成，且依赖“人工复核”兜底，实际效果堪忧。

事件核心：发生了什么

根据HackerNews社区讨论及相关报道，英格兰和威尔士的警方被叫停使用AI撰写法庭声明。该指令针对的是警方在日常文书流程中，尝试使用微软Copilot等AI工具辅助起草法律文件的行为。原文观点指出，风险在于两点：一是相关AI工具（如Copilot）在现阶段以生成错误或偏差内容著称，可能生成不准确的案件事实描述；二是警方寄希望于“请人工审查输出结果”作为一种解决方案，但这在实际操作中几乎必然导致工作人员因工作压力和习惯而放松检查，最终将未经严格核实的AI生成内容直接提交给法庭。

为什么重要

这起事件暴露了AI在关键公共事务领域合规性缺失的重大风险。法律文书、尤其是法庭声明，要求严格的事实准确性、法律逻辑和程序正义，任何错误的“幻觉”内容都可能直接影响司法判决、剥夺当事人权利。当前大模型在逻辑推理和事实对齐方面仍存在不可靠性，而“AI辅助写稿+人工复核”模式在高压、高重复的执法环境中很难成立。这一事件不仅是对微软Copilot在特定场景下的失败案例，更警示所有行业：当AI工具被部署到法律、医疗、金融等强监管、高后果领域时，必须在正式上线前完成明确的评估流程，而非先投入使用再要求人工补救。此举也会推动政府和企业重新审视AI采购的标准，避免仅因现有供应商关系而引入未经验证的解决方案。

对用户/开发者/创作者的影响

对于企业采购决策者，这是一个典型的“急于用AI但没想好怎么用”的教训——合规评估应前置，不能等出事后补救。对于AI应用开发者和法律科技创业者，事件传达了明确的信号：法律领域的AI应用必须经过严格的事实性测试、见证式评估以及本地化司法系统的适配，才能获得信任。对于普通用户，这说明在涉及人身权利和司法公正的场景下，不能盲目相信当前AI工具的结论，人工复核本身并非万无一失的保险。对于微软等AI供应商，此类事件将直接削弱Copilot在生产环境（尤其是政府、法律）中的声誉，可能迫使厂商在模型训练中更强调事实性约束，而非单纯追求对话流畅度。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

1. 调查是否会扩大：目前尚无消息显示其他地区的警方或司法机构是否也被督促自查AI使用情况。如果出现多起类似案例，可能推动英国层面出台专门的法律文书AI使用禁令。2. 微软Copilot的法律版更新：微软是否会针对这一事件推出“法律声明专用模式”或强化事实校验API，以挽回在政府业务上的损失。3. 替代性工具的涌现：基于本地法律知识库和约束性推理的开源法律AI方案，未来可能获得更严肃的考虑，不再被视为“玩具”。

来源：hackernews

英格兰和威尔士警方被告知停止在法庭声明中使用人工智能