律师因谋杀案中AI幻觉生成的证人被罚5000美元

事件核心：发生了什么

根据 The Verge 援引路透社报道，新墨西哥州最高法院在周三提交的文件中处罚了律师 Stephen Aarons。他在为客户谋杀定罪进行上诉时，提交了一份由 ChatGPT 生成的辩护状，其中包含”完全虚构的证人提供的虚假证词”，以及关于枪手衣着和外貌的虚假陈述。法院认定他未能核实 AI 生成内容中的事实主张和法律依据，处以 5000 美元罚款并判其藐视法庭。

在 8 月的听证中，Aarons 承认使用 ChatGPT，并以为它能生成一份”无懈可击的庭审摘要”。大法官 C. Shannon Bacon 当庭反问：”律师，你看新闻吗？听广播吗？……律师依赖 AI 幻觉的问题，每天都是头版新闻。”Aarons 对路透社表示懊悔，但希望纪律委员会考虑这属于”诚实的错误”。

为什么重要

这不是孤例。过去一年，多起案件中法院发现律师提交了 AI 捏造的判例引注：一家法院曾严厉批评两家律所提交含”大量虚假、不准确、误导性法律引用”的辩护状；MyPillow 创始人 Mike Lindell 的律师也因使用 AI 生成的错误引文和伪造判例被罚款。随着使用 AI 工具的律师数量持续上升，AI 幻觉引发的司法风险正从个案变成系统性问题。

关键在于：大语言模型的”推理”本质上是在生成概率上最像答案的文本，而非检索真实判例。它对法律引注、证人证词这类需要严格事实核验的场景，天然存在编造倾向。目前公开信息显示，法院的容忍度正在快速下降——”我不知道 AI 会出错”已不再是有效抗辩。

对用户/开发者/创作者的影响

对专业服务从业者（法律、医疗、金融、咨询），这起处罚传递了明确信号：AI 生成内容的责任由使用者承担，工具不能背锅。把 ChatGPT 当作”生成初稿”可以，但任何事实、引注、数据必须回到原始来源逐一核实。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

对开发者和 AI 应用团队，这是检索增强生成（RAG）和引用溯源功能的市场需求证明。纯靠大模型参数记忆输出法律、医学等高风险内容，商业落地会持续遭遇合规阻力。能提供”可验证来源+置信度标注”的产品，在专业场景中更具竞争力。

对普通用户，它提醒一个常被忽略的点：AI 说得越流畅、越具体，越需要警惕。虚构的证人姓名、警号、判例编号看起来往往和真的一样。

值得关注的后续

一是新墨西哥州是否会对 AI 辅助提交文件出台更明确的核实义务或披露要求；二是其他州法院和律师协会是否跟进类似处罚，形成统一执业标准；三是 OpenAI 等模型厂商是否会在法律、医疗等高风险场景中强化引用来源与免责提示。目前公开信息显示，Aarons 的处罚尚属个案，但司法系统对 AI 幻觉的态度已明显收紧。

来源：The Verge