一句话看懂：新墨西哥州一名辩护律师用 ChatGPT 整理谋杀案上诉材料，把 AI 编造的警方证词和证人写进了正式法庭文件，被州最高法院罚款 5000 美元并裁定藐视法庭，还将被移交律师纪律委员会调查。
事件核心：发生了什么
据路透社报道，新墨西哥州最高法院周三对律师 Stephen Aarons 作出处罚。Aarons 在为其当事人谋杀定罪提起上诉时，提交了一份包含虚构警方证词和证人的辩护状，他本人承认这份材料借助 OpenAI 的 ChatGPT 准备。法院认定他未核实文件准确性，处以 5000 美元罚款并裁定藐视法庭，同时将案件移交律师纪律委员会进一步调查。
Aarons 在 8 月 21 日的听证会上说，他把一份计算机生成的庭审记录和其他案件材料交给 ChatGPT，以为能得到一份“无懈可击的摘要”。他事后对路透社表示，自己并不了解 AI 会在多大程度上“幻觉”事实，称这是“一个诚实的错误”，并感到懊悔。大法官 C. Shannon Bacon 在听证中直言，律师依赖 AI 幻觉的问题“每天都是头条新闻”。OpenAI 未立即回应置评请求。
为什么重要
此前已有数十名律师因 AI 编造判例引用或错误引用法律条文而受罚，但 Aarons 案的严重程度更进一步：虚构内容不只是引注，而是直接进入了刑事上诉中的证人证词。这说明大模型的“幻觉”并不只是聊天场景里的事实偏差，在缺乏人工核验的高风险专业流程中，它会转化为可追责的法律后果。对正在把大模型接入法律、医疗、金融等强合规行业的开发者来说，这是一个明确的边界提醒：模型输出不能默认当作可提交的事实材料。
对用户/开发者/创作者的影响
对普通用户，最实际的一课是：把 ChatGPT 当作摘要和草稿工具，但任何涉及事实、引文、人名、时间、证据的内容都要回到原始材料核对。对开发者和企业采购方，这类案例会加速推动“检索增强生成（RAG）+ 引用溯源”的产品设计，即在 API 和 AI 应用层强制标注来源、限制模型自由生成事实性表述，并在高风险场景加入人工复核环节。对内容创作者而言，AI 辅助写作本身没有问题，但发布前的事实核查责任仍在人身上，尤其是涉及具体人物、机构或事件的表述。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是新墨西哥州律师纪律委员会是否会对 Aarons 作出停牌或更重处罚，这可能成为其他州处理类似案件的参照；二是法院是否会在程序规则中明确要求披露 AI 辅助起草的使用情况；三是 OpenAI 及同类大模型厂商是否会针对法律等专业场景强化幻觉检测和引用校验能力，目前公开信息显示其尚未就本案作出说明。
来源：Slashdot
