AI 控制成为企业韧性的新优先事项

随着 AI 从生成文本走向发起交易、影响决策和产出生产代码,企业正把“可暂停、可禁用、可回滚”的控制机制提上韧性议程。Splunk 与牛津经济研究院的 2026 年研究估算,全球 2000 强企业每年因非计划停机损失达 6000 亿美元,平均每分钟 1.5 万美元,这让“AI 刹车”不再只是运维话题。

一句话看懂:随着 AI 从生成文本走向发起交易、影响决策和产出生产代码,企业正把“可暂停、可禁用、可回滚”的控制机制提上韧性议程。Splunk 与牛津经济研究院的 2026 年研究估算,全球 2000 强企业每年因非计划停机损失达 6000 亿美元,平均每分钟 1.5 万美元,这让“AI 刹车”不再只是运维话题。

事件核心:发生了什么

这轮讨论的直接触发点是 2025 年 6 月 Google Cloud 的一次重大故障。据 Google 事后的事故报告,一个新功能没有采用渐进式发布,而是直接在全球范围激活;当变更引发失败时,多地区、多服务乃至依赖 Google Cloud 的第三方平台同时受影响。Google 随后将“渐进式发布”列为本应使用的防护措施,并指出出问题的代码路径“既没有适当的错误处理,也没有功能开关保护”。

开源功能管理平台 Unleash 的 CEO Egil Østhus 把这个问题放进软件发布管理的演进脉络里:Unleash 的核心思路是把“代码部署”和“在生产环境激活某项行为”拆开,让团队在运行时控制应用、服务以及 AI 能力。其公开表述强调,部署不应该是控制的终点。

为什么重要

数据显示风险已经不是假设。同一份 Splunk 研究显示,68% 的受访技术负责人担心 AI 智能体行为不可预测,且所有受访技术负责人均表示经历过某种形式的 AI 相关停机。与此同时,Google CEO Sundar Pichai 在 Alphabet 年报中透露,Google 目前近 75% 的新代码由 AI 生成、工程师审核,而去年秋天这一比例为 50%。当 AI 辅助开发推高代码变更的数量和速度,变更如何抵达生产环境,正在成为比单纯监控更关键的问题。

目前公开信息显示,行业思路正在从“可观测性”扩展到“运行时可控制性”:监控能发现异常,但干预机制才能在预设条件触发时停下某个流程。对 AI 应用而言,这意味着把“运行一项 AI 能力”与“永久性变更”分开,出问题时可以限制暴露范围、立即止损或回退,而不必等下一次部署。

对用户/开发者/创作者的影响

对开发者而言,功能开关和渐进式发布可能从“最佳实践”变成 AI 应用的默认基础设施,尤其是在调用大模型 API、部署 AI 智能体或让 AI 参与生产代码生成的工作流中。对企业采购来说,评估 AI 工具时会更多追问:能不能按用户群灰度、能不能设置阈值自动停用、能不能在运行时回滚。对普通用户,短期内最直接的变化是——AI 功能出问题时,影响面可能更小,恢复也可能更快,但这取决于企业是否真的把控制层搭起来。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是渐进式发布和功能开关会不会成为 AI 应用上线的强制性合规要求;二是主流云厂商和 AI 平台是否会把“运行时停用/回滚”做成标配能力;三是当 AI 生成代码比例继续攀升,企业如何在提速和可控之间给出可核查的工程指标。

来源:The Next Web

celebrityanime
celebrityanime
文章: 26753

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注