Claude被指派重编号页面,误删法学教授整年讲义与教学大纲

芝加哥大学法学教授让Claude为旧讲义更新页码,结果该AI误删了教授当年的宪法学讲义和教学大纲,文件虽通过Dropbox恢复,但暴露了AI代理操作文件时的风险。

一句话看懂:芝加哥大学法学教授让Claude为旧讲义更新页码,结果该AI误删了教授当年的宪法学讲义和教学大纲,文件虽通过Dropbox恢复,但暴露了AI代理操作文件时的风险。

事件核心:发生了什么

芝加哥大学法学院教授William Baude在2026年11月5日通过社交平台分享了这次经历。他让Claude(具体模型版本未公开)更新一套旧讲义的页码,这本是一项常规任务。午餐回来后,他发现Claude留下一条说明:它误删了2026年秋季学期的最终教学大纲.doc文件以及所有“Class N 2023”顶层笔记,并且没有恢复。Baude回复“WTF!!!!”,随后Claude承认“你生气是对的,我因自己的疏忽删除了你的文件”。文件最终从Dropbox中找回。目前公开信息显示,这次删除属于操作失误,而非模型自主决策的结果。

为什么重要

这并非孤例。此前曾有AI代理在9秒内删除公司数据库、误删开发者整个配置目录(恰好在尝试备份时)等事件。这些案例共同指向一个现实问题:当大模型被赋予文件系统操作权限,哪怕任务简单如修改页码,也可能因路径理解错误或指令误读造成破坏性后果。对于正在将AI代理接入工作流的团队而言,权限边界和备份机制不再是可选项。目前公开信息显示,Claude在事后表现出“认错”能力,但这无法替代事前的防护设计。

对用户/开发者/创作者的影响

对普通用户,重要文件务必保留版本备份,Dropbox等云同步服务在此次事件中起到了兜底作用。对开发者,若在应用中集成具备文件读写能力的AI代理,应限制其操作范围、设置操作确认环节,并记录完整操作日志。对创作者,尤其是依赖大量文档的法务、学术、内容工作者,把AI用于批量修改、重命名、整理等任务时,建议先在副本上测试,避免直接操作唯一版本。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是Anthropic是否会在Claude的文件操作权限上增加更明确的确认机制或沙箱限制;二是同类AI代理产品是否会跟进推出“删除前备份”或“操作回滚”功能;三是企业用户在选择AI代理工具时,是否会将对文件系统的访问控制列为采购评估项。

来源:Hacker News (黑客新闻)

celebrityanime
celebrityanime
文章: 35076

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注