用 ChatGPT 的律师因引用虚构证人的假证词受罚

事件核心：发生了什么

涉事律师是 Stephen Aarons，长期在新墨西哥州从事刑事辩护，受被告 Oscar Renee Sandoval 家属委托，为其谋杀定罪提起上诉。2025年8月，他提交了一份上诉书，其中引用了多名“从未在庭审中被传唤的证人”的证词，包括所谓的 Michelle Amarillo 警官、Sanchez 警官、Manal Al-Jibury、Teresa Marquez，以及 Danny Stanton、Linda Stanton、Mariah Chavez 等人关于威胁和枪手衣着外貌的陈述。此外，他还错误描述了真实判例的法律含义。

在2025年8月21日的听证会上，Aarons 承认自己把计算机生成的庭审记录等材料输入了基于 OpenAI o3 模型的 ChatGPT，并直接采用了输出内容，没有逐条核实事实和法律依据，也没有告知当事人。州最高法院称他“缺乏悔意，也缺乏对客户的关切”，除5000美元罚款外，还禁止他在纪律程序结束前出庭，并为其当事人另行指派辩护律师。

为什么重要

过去两年，律师因 AI 生成“虚假判例”被处罚的案例已不罕见，但这次的性质不同：问题不只是引用了不存在的案子，而是虚构了证人证词这种案件事实。法官 C. Shannon Bacon 在庭上指出，AI 幻觉导致律师执业事故“几乎每天都是头条新闻”，并质疑被告律师所谓“不知道 AI 会编造内容”的说法。法院重申的原则很清晰：无论信息来自 AI 工具、法学生还是同行，在文书上签字的律师都必须为其准确性负责。对法律行业而言，这把“AI 辅助”与“AI 代笔”的边界划得更明确了。

对用户/开发者/创作者的影响

对普通用户，最直接的提醒是：大模型的流畅表达不等于事实正确，涉及法律、医疗、财务等高风险场景时，输出必须回到原始材料核对。对开发者和企业来说，法律、合规类 AI 应用的竞争点正从“能不能生成”转向“能不能溯源”——输出引用需可回溯到原始文件、关键事实需标注来源、对无依据内容主动拒答，这些能力会越来越成为刚需。目前公开信息显示，Aarons 使用的只是通用 ChatGPT 对话产品，并未涉及专门的法律检索工具或企业级 API 集成，这也说明通用模型直接套用到专业流程中风险很高。对内容创作者同样是提醒：AI 生成的事实性陈述，发布前需要自己核实并承担署名责任。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是新墨西哥州纪律委员会最终会给出何种处罚，是否包含停牌或吊销执照；二是该案是否会推动更多州法院要求律师披露 AI 使用情况，或出台针对 AI 辅助文书的核验规范；三是法律 AI 工具厂商是否会加快推出可溯源引用、事实校验类功能，把“防幻觉”当作产品卖点。

来源：Ars Technica