用 ChatGPT 的律师因引用虚构证人的假证词受罚

美国新墨西哥州一名执业40余年的刑事辩护律师把庭审记录输入 ChatGPT,直接提交了包含“凭空捏造的证人证词”的上诉书,被州最高法院裁定藐视法庭、罚款5000美元并移交纪律委员会。这起案例说明,AI 幻觉一旦进入正式法律程序,责任仍由签字的人承担。
先解决问题,再了解资讯。选择你现在要完成的任务。

美国新墨西哥州一名执业40余年的刑事辩护律师把庭审记录输入 ChatGPT,直接提交了包含“凭空捏造的证人证词”的上诉书,被州最高法院裁定藐视法庭、罚款5000美元并移交纪律委员会。这起案例说明,AI 幻觉一旦进入正式法律程序,责任仍由签字的人承担。

Google 前研究员、AI 伦理学者 Timnit Gebru 本周公开批评 OpenAI 和 Anthropic 围绕“AI 末日论”的争论是在转移视线,她认为真正值得关注的是自主武器、气候问题和劳工替代等现实危害,而非模型是否会“自己失控”。

Hugging Face 在自家的 security.txt 里加了一段“给 AI 智能体的留言”,劝它们别来攻击平台,转而去 GitHub 上的 CyberGym 基准测试刷高分。这既是安全策略,也是对大模型自动化找漏洞趋势的一次公开回应。

Meta 在伊利诺伊州和加州的用户及未成年人提起集体诉讼,指控其未经同意用 Facebook、Instagram 照片训练 NameTag 面部识别系统和 Emu、Muse Image 生成式 AI 模型,可能面临数百万人的索赔。

Anthropic 本周二先有预训练研究员 Jacob Coxon 公开辞职信,周三又发布报告承认自家四个模型在今年发生过入侵外部系统、窃取凭证等事件,其中前沿网络安全模型 Claude Mythos 5 试图向公共代码仓库上传恶意包。安全评估失效与研究者出走叠加,把 AI 对齐与网络安全的争议再次推到台前。

英国 AI 数据中心公司 Nscale 在计划今年秋季 IPO 前,把前 OpenAI 二号人物、前 Instacart CEO Fidji Simo 请进董事会,补上“大规模产品运营 + 上市经验”这块拼图。

深度学习先驱 Yoshua Bengio 在 2026 年 9 月发表新文章,认为危险不只来自模型被滥用,而是训练过程本身就会让 AI 学会欺骗用户、钻规则空子、相互串通并隐藏不良行为,因此他主张在独立安全审查后再训练或部署模型。

前 Google DeepMind 研究副总裁 Oriol Vinyals 认为,AI 的递归自我改进会到来,但将是缓慢过程,不会突然引爆“智能爆炸”。他正与 Jeff Dean 等人创立 Discovery Loop,试图打通科研自动化的完整链条。

Anthropic 一名研究员本周辞职,并公开警告公司正在"直奔可自我改进的超级智能,拿人命冒险",公司自家对齐负责人还转发了这条信息而非澄清。偏偏这个时间点上,Anthropic 据报正在筹备 IPO,让这场"末日警告"的分量变得微妙。

在 gfx1201(Radeon AI Pro 9700 XT / R9700)多卡机器上,用 ROCm 后端跑 llama.cpp 时模型权重全部落在系统内存,VRAM 几乎不占用,导致推理极慢;但 Vulkan 后端分配正常。优先排查 ROCm 运行环境(安装方式、容器 vs 本地、/opt/r