德比郡警官被指控使用人工智能“创造证据”

一句话看懂：英国德比郡一名警官被指控在多起案件中利用人工智能系统“制造”证据材料，警方已启动刑事调查，并将该警员调离一线岗位。这一事件发生在英国新设立警用AI中心（PoliceAI）的同一周，凸显了AI工具在执法领域被滥用的风险。

事件核心：发生了什么

据BBC报道，德比郡警方目前已对一名警员展开刑事调查，该警员涉嫌在多起案件中使用人工智能生成“证据材料”。警方声明称，该警员被指控妨碍司法公正，但尚未逮捕任何人。涉事警员已被调离一线岗位，等待调查结果。皇家检察署（Crown Prosecution Service）表示正与警方合作，并已与相关案件的辩护团队和法院进行沟通。目前调查处于早期阶段，更多细节尚未披露。

为什么重要

此事的警示意义在于，它并非AI“失误”或“幻觉”导致的意外，而是公职人员涉嫌主动利用AI来伪造司法证据。大模型（如GPT系列、Claude等）和各类图像/文本生成工具的普及，使非专业技术人员也能轻易生成逼真的文字记录、聊天记录甚至图片。当这些技术落入执法人员手中，一旦被滥用，可能直接破坏司法系统证据链的可靠性。值得注意的是，英国本周刚刚成立国家级警用AI中心PoliceAI，旨在“负责任地采用AI以打击犯罪”，而该事件发生在同一时间节点，使得“负责任使用AI”从口号变为紧迫的合规命题。

对用户/开发者/创作者的影响

• 对AI开发者/API提供商：需要重新审视内容审核和安全护栏的底线。当前多数主流大模型（如OpenAI、Anthropic、Google等）已经内置了“拒绝生成违法内容”的规则，但该事件表明，仅靠模型侧拒答并不足够，还需要更严格的输入输出审计日志，以及针对“执法/法律场景”的特殊使用条款。
• 对内容创作者/企业：任何由AI生成的文本、图像或音频，如果未来可能被用作法律证据（例如合同、聊天记录、监控描述），都应主动标记元数据或数字水印。完全依赖AI生成内容的做法面临司法不被采信的风险。
• 对普通用户：需要提高对所谓“AI证据”的警惕。在司法案件中，对方提交的疑似由AI生成的电子邮件、社交媒体截图等材料，其可信度可能受到质疑。

值得关注的后续

1. 案件定性：调查结果将明确该警员使用了哪类AI工具（大语言模型、图像生成模型还是AI语音合成器）以及“制造”了何种具体的证据形式（如虚构的证人陈述、伪造的通话记录、篡改的监控截图等）。这将成为执法部门内部AI使用规范的重要判例。
2. PoliceAI中心的反应：刚刚成立的British PoliceAI中心是否会因此加快制定警用AI伦理准则或审核流程？该事件可能倒逼英国执法部门出台更细化的AI使用禁令，例如禁止使用未经批准的第三方AI模型生成案件材料。
3. 更广泛的连锁反应：类似案件一旦被证实，可能在全球范围内引发针对“AI生成证据”的举证规则修订。法院系统可能要求所有数字证据必须附带完整的生成/修改日志，否则不予采信。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

来源：Hacker News