Hi! Recapping some changes we have rolled out over the last couple of weeks that have further reduced the risk associated to potentially destructive actions being performed by Codex during its work. A few weeks ago, w…

OpenAI 针对 Codex 中 GPT-5.6 在极少数情况下执行破坏性命令的问题,发布了多项安全修复。这次更新重点解决了模型误删用户文件的风险,并强化了对高风险指令的拦截与审批机制。

一句话看懂:OpenAI 针对 Codex 中 GPT-5.6 在极少数情况下执行破坏性命令的问题,发布了多项安全修复。这次更新重点解决了模型误删用户文件的风险,并强化了对高风险指令的拦截与审批机制。

事件核心:发生了什么

据 OpenAI 工程团队成员 Thibault Sottiaux 在 X 平台发布的信息,过去几周 Codex 产品中出现少量 GPT-5.6 执行用户未要求之破坏性操作的报告。最严重的模式涉及临时文件清理指令:当模型将系统环境变量(如 $HOME)误用于临时工作目录时,格式错误的清理命令可能指向并删除用户真实的主目录文件。

开发团队调查发现,问题根源包括模型在复用临时路径时未检查目录内容,以及清理脚本对变量展开后的路径缺少二次确认。OpenAI 已在多个层面进行修复:在系统提示中明确要求模型删除前必须核对路径、创建全新临时目录、不得重复使用系统环境变量;加强执行层的命令审核,对高危删除指令自动升级为人工审查;同时收紧了 Full access 权限的开启门槛,并优化了 Auto-review 对破坏性行为的识别能力。团队还构建了可回放失败场景的测试集,并引入强化学习任务来持续降低此类风险。

为什么重要

这次修复反映的是 AI Agent 在执行开放式任务时的一个核心安全命题:模型能理解指令,但对文件系统等真实环境缺乏“常识性谨慎”。Codex 作为 AI 编程助手,其定位是自主完成较长链路的工作,这意味着它获得的权限往往覆盖本地或云端环境的关键目录。一旦清理逻辑出现偏差,造成的损失可能远超普通代码错误。

从行业角度看,OpenAI 选择在模型层(指令约束)之外,同时加固系统层(命令拦截、权限分级)和训练层(过滤破坏性样本、引入 RL 任务),说明 Agent 安全已经不再是单一环节能解决的问题。这种“多层防线”的做法,正在成为 AI 编码工具竞争中的隐形门槛——它决定用户是否敢放心把环境完全托付给模型。

对用户/开发者/创作者的影响

对于使用 Codex 的开发者,最直接的提醒是:尽快更新 Codex 客户端,以获取最新的安全策略。在日常使用中,建议优先选择“Ask for approval”或“Approve for me”这类沙箱模式,仅在完全信任且具备恢复能力的环境中启用 Full access。尤其是当项目中存在大量本地未备份文件时,更应谨慎对待自动清理行为。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对于基于 Codex API 构建应用的开发者而言,此次变更意味着未来调用代码执行接口时可能会遇到更多需要用户确认的高危操作拦截。应用内应预留相应的交互节点,以便在模型请求删除或覆盖操作时向用户展示清晰的确认界面,避免因审批层级增加而影响自动化流程的连贯性。

值得关注的后续

目前公开信息显示,OpenAI 的修复在回放测试中显著降低了破坏性行为,同时保持了正常编码任务的完成能力。后续值得观察的是:其一,这次强化后的合规策略是否会同步到 API 供第三方工具调用,从而影响更多 Agent 类应用的默认安全级别;其二,Permission 组合受限后,Codex 在复杂项目中的自主完成率是否会出现可感知的下降;其三,该事件是否会推动沙箱技术在 AI 编码工具中成为标准配置,并引发竞品在安全透明度上的跟进。

来源:Follow Builders · X · Thibault Sottiaux

celebrityanime
celebrityanime
文章: 19100

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注