亚利桑那州法院裁定AI生成受害者视频带有不当情感分量,凶手须重新量刑

美国亚利桑那州一名过失杀人案被告因受害者家属在量刑环节播放 AI 生成的“受害者本人”视频而获得重审机会,上诉法院认定该视频带有不当情感分量,原判刑期需重新考量。

一句话看懂:美国亚利桑那州一名过失杀人案被告因受害者家属在量刑环节播放 AI 生成的“受害者本人”视频而获得重审机会,上诉法院认定该视频带有不当情感分量,原判刑期需重新考量。

事件核心:发生了什么

2021 年,Gabriel Horcasitas 在一场路怒冲突中开枪打死 Christopher Pelkey,陪审团判定其过失杀人罪名成立。在量刑听证中,Pelkey 的姐姐 Stacey Wales 播放了一段 AI 生成视频,由她本人撰写台词,让一个逼真的 Pelkey 数字形象“开口”表示原谅凶手,并说两人在另一种人生里“本可以成为朋友”。主审法官当时表示“我很喜欢这段视频”,随后给出了 10 年半的最高刑期。

Horcasitas 上诉后,亚利桑那州上诉法院维持过失杀人定罪,但认为该 AI 视频不具可采性:它并非真实事件的记录,却传递出类似本人授权的真实感,对法官造成了心理影响。法院援引 2007 年 State v. Rose 案,认为 AI 视频越过了照片可能造成偏见的那条线,导致量刑程序“根本性不公”。目前公开信息显示,重审将更换或由同一法官重新量刑,Wales 计划从纽约返回亚利桑那,用真人朗读同一份陈述,而不再使用 AI 视频。

为什么重要

这不是一起普通的技术伦理争论,而是法院首次在量刑层面明确给 AI 生成内容划出程序边界。核心问题不在“AI 能不能做视频”,而在于生成式 AI 能低成本制造出高度拟真的“逝者发言”,其说服力可能凌驾于真实证据之上。对 AI 行业而言,这意味着图像/视频生成、语音克隆和数字人产品进入司法、政务、公共表达场景时,会面临比内容平台更严格的“真实性审查”。它也可能推动法院建立对 AI 合成陈述的披露规则,类似当年照片、DNA 证据逐步被纳入证据体系的过程。

对用户/开发者/创作者的影响

对开发者和 AI 应用团队来说,数字人、语音克隆、AI 头像类工具的合规边界正在从“平台政策”延伸到“司法可采性”。如果产品面向法律、纪念、心理疏导等高风险场景,需要默认加入来源标注、合成标识和授权链记录。对内容创作者,用 AI 复活逝者做情感叙事并不天然违法,但在正式法律程序中,逼真程度越高,越可能被认定为不当偏见而非有效表达。创作者应保留脚本、素材和生成过程的完整记录,以备合规审查。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是该案是否形成更明确的判例规则,要求 AI 生成内容在法庭上必须披露、标注或排除;二是主流视频生成与语音克隆工具是否跟进,在 API 或产品层面加入合成标记和用途限制;三是受害者家属的表达权与被告公平审判权之间如何平衡,可能影响未来类似案件的量刑程序。

来源:404 Media(RSS)

celebrityanime
celebrityanime
文章: 27643

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注