几支英国警察部队已被告知停止使用人工智能来准备法庭陈述，理由是担心不准确的输出可能会污染法律程序（罗伯特·赖特/金融时报）

一句话看懂：英国多支警察部队被要求立即停用AI工具撰写法庭陈述，原因是AI生成的文本可能包含不准确信息，进而导致法律程序公正性受损。这是政府部门首次针对AI在司法环节的具体应用发出明确叫停指令。

事件核心：发生了什么

据《金融时报》报道，英国警方监管部门已在近期通知多支地方警察部队，要求其停止使用大型语言模型或基于大模型构建的AI工具来辅助准备法庭陈述文件。理由是，这类工具在生成文本时可能捏造事实或遗漏关键细节，而法庭陈述对精确性和真实性有极高要求。目前公开信息显示，该指令直接指向那些将AI输出直接放入法律文书的做法，而非禁止警方在其他领域使用AI（如分析监控视频或预测犯罪热点）。被点名的警察部队尚未公开回应，但多家媒体已确认收到该行政通知。裁判文书和呈堂证供的准确性直接影响定罪和量刑，因此这一决策被视为对AI可信度的一次明确压力测试。

为什么重要

这一指令直接切中了AI在严肃专业场景中的核心风险——幻觉与事实核查困难。在法律、医疗、金融等对输出精度要求接近100%的领域，大模型的“自信但错误”特性是最大障碍。英国警方的叫停并非全面否定AI，而是划出了一条清晰的红线：任何可能影响法律程序公正性的环节，不允许黑箱化使用AI。此举可能引发连锁效应，其他欧洲国家监管机构、以及英国法院系统本身可能跟进，进而影响AI公司（如OpenAI、Anthropic、Google DeepMind）在合规场景中的产品设计策略。对于正在研发法律AI助手或司法文档自动生成工具的创业公司来说，这意味着市场准入门槛将显著提高，单纯依赖通用大模型输出不再可行。

对用户/开发者/创作者的影响

对于开发者与AI产品经理，这是一个重要的合规警示：即使AI在辅助写作中效率优势明显，如果应用场景涉及法律文件、医疗诊断、金融合约等法定责任领域，必须加入强制人工审核机制，且审核环节需要留痕可追溯。对于普通用户，这一事件提醒：不要直接使用ChatGPT、Claude或任何AI助手生成的法律类文本作为正式文件，除非你具备专业知识并愿意承担核实责任。对于AI公司和开源模型社区，这强化了一个趋势——未来的产品需求将从“生成更多内容”转向“生成可验证、可溯源的内容”，例如自动标注引用来源、输出置信度评分。警方撤退的这一小步，实际上推动了整个行业向更负责任的方向发展。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

以下是一些具体观察点：第一，英国国家警务委员会是否会发布统一的技术标准，明确哪些AI工具、在哪些环节可以安全使用。第二，法律AI创业公司（如Harvey AI、Luminance等）是否会针对法庭陈述场景推出带引用验证功能的专用版本。第三，其他国家的司法系统是否会效仿英国的做法，这将是判断AI在专业服务领域渗透速度的关键风向标。第四，OpenAI或Anthropic是否会修改其API技术文档或使用条款，增加对法律场景的特别警告。

来源：Techmeme

几支英国警察部队已被告知停止使用人工智能来准备法庭陈述，理由是担心不准确的输出可能会污染法律程序（罗伯特·赖特/金融时报）