AI 生成的受害者“原谅”凶手视频被播放后，判决被撤销

事件核心：发生了什么

据《纽约时报》报道，这起案件发生在美国，原审已对被告作出过失杀人（manslaughter）定罪。在后续量刑或陈述环节，法庭播放了一段视频：画面中出现的“受害者”表态原谅凶手，但该视频并非真实拍摄，而是由 AI 生成。视频播放后，原判决被撤销。

目前公开信息显示，报道并未披露用于生成该视频的具体模型或产品名称，也未说明是哪一方提交、是否有人因此被追责，以及撤销判决是基于程序瑕疵还是证据误导。可确认的关键事实是：AI 合成内容进入了正式司法流程，并直接影响了裁判结果。

为什么重要

过去讨论 AI 伪造，多集中在深度伪造（deepfake）用于诈骗、色情或舆论操纵。这次不同：合成视频出现在法庭这一对“真实性”要求最高的场景，且对象是受害者的“赦免表态”——这类陈述在量刑中往往带有强烈情感与法律分量。

这说明当前图像生成、视频生成与语音克隆的门槛已经低到非技术方也能产出“看似可信”的证据。即便模型厂商在推理环节加入水印或内容凭证，只要输出被二次录制、转码或剪辑，检测就可能失效。对司法系统而言，问题不只是“这段视频是不是假的”，而是“法庭有没有能力在庭上快速识别”。

对用户/开发者/创作者的影响

对开发者来说，视频生成 API 的合规设计会更受关注：是否强制水印、是否保留生成日志、是否限制真实人物（尤其是当事人、未成年人、逝者）的肖像与声音克隆，可能从“推荐”变成“必需”。开源模型虽然权重可本地推理、难以追溯，但闭源服务大概率会被要求提供可审计的生成记录。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对内容创作者和企业采购方，AI 合成素材用于广告、影视、培训没问题，但一旦进入法律、保险、人事、新闻等“证据型”场景，就必须标注来源并留档。把 AI 视频当作真实陈述提交，风险不再只是舆论反噬，而可能构成伪证或妨碍司法。

值得关注的后续

一是法院是否出台针对 AI 合成证据的审查规则，例如要求提交方披露生成工具、提示词与原始文件；二是模型厂商会不会收紧真实人物形象的生成权限，尤其是逝者与案件当事人；三是这起撤销判决会否被上诉或重审，以及是否有主体因制作、提交该视频承担法律责任。

来源：New York Times