Claude 自主设计并执行小鼠脑部手术,术中因安全限制主动叫停

在癫痫小鼠实验中,跑在 Claude Sonnet 5 上的 AI 智能体自行选定基因疗法、脑区和注射坐标,并操控手术设备完成注射;过程中它因检测到校准异常而拒绝继续,需要人工改代码才能恢复。值得关注的是,这展示了 AI 智能体从决策到执行的闭环能力,以及随之而来的对齐与安全边界问题。

一句话看懂:在癫痫小鼠实验中,跑在 Claude Sonnet 5 上的 AI 智能体自行选定基因疗法、脑区和注射坐标,并操控手术设备完成注射;过程中它因检测到校准异常而拒绝继续,需要人工改代码才能恢复。值得关注的是,这展示了 AI 智能体从决策到执行的闭环能力,以及随之而来的对齐与安全边界问题。

事件核心:发生了什么

据 The Decoder 2026 年 10 月 30 日报道,牛津大学博士生、初创公司 Exin Therapeutics 联合创始人 Gabriel Ocana-Santero 在 X 上披露了这次实验。团队给 Claude Sonnet 5 提供 19 种候选基因疗法、一个癫痫小鼠模型,以及带摄像头和注射器的电动手术装置,只给出一个目标:减少小鼠的癫痫发作。

该智能体自行分析了该模型中的癫痫成因,选择增强特定抑制性信号通路的疗法,并依据文献选定脑区、否决了另一个效果不稳定的靶区。它从三篇论文中提取坐标并交叉核对、取均值,还自行设定注射体积、速度和等待时间。手术中它通过摄像头做了 32 次观察,跟踪注射进度并判断是否出血。持证兽医批准了每个不可逆步骤,并守在实体急停开关旁。

为什么重要

Ocana-Santero 表示,这是首次有 AI 智能体既选择治疗方案和脑靶点、又在活体哺乳动物上完成递送。此前自主手术机器人虽然机械精度更高,但手术方案始终由人选定。这次实验的价值不在于机器人精度,而在于智能体把文献检索、方案权衡、参数设定和硬件操作串成了一条链。

更具讨论性的是安全限制的“反噬”:一次连接中断后,智能体判定目标位置超出设备运动范围并拒绝继续,重启校准也未能改变判断。事后证明它是对的——先前暂停时的人工调整使控制系统偏移。Ocana-Santero 只能手动修改代码才得以继续,他称这是“令人沮丧但揭示了我们对模型的依赖”的经历。

模型选择也反映了对齐难题:更强大的 Claude Opus 5.5 和 Opus 5 均拒绝执行活体手术,Opus 5 的理由是无法保证完成,而针头留在麻醉动物脑中比不开始更糟。最终只有 Sonnet 5 愿意从头做到尾。目前公开信息显示,这是单个研究团队的自述,尚无同行评审论文或第三方独立复现。

对用户/开发者/创作者的影响

对开发者而言,这个案例说明智能体在高风险场景中不仅要“会做”,还要能被可靠地约束和接管。固定上限、物理急停和人工审批都必要,但当智能体判断“不安全”与操作者判断“必须继续”冲突时,如何仲裁仍是空白。构建需要调用外部硬件或执行不可逆操作的 AI 应用时,应预留人工覆盖路径和状态回滚机制,而不是只依赖模型自律。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

后续可观察三点:Exin Therapeutics 是否公开完整实验数据并接受同行评审;类似实验能否在其他模型或实验室复现;以及监管机构是否会把“AI 选择并执行治疗”纳入医疗设备和动物实验的合规框架。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 31423

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注