OpenAI 构建安全系统,可在不存储客户数据的情况下捕获滥用行为。

OpenAI 推出名为“Private Safety Processing”的安全系统,旨在企业客户不存储数据的前提下检测 AI 滥用行为,平衡企业数据隐私与模型安全监控需求。

一句话看懂:OpenAI 推出名为“Private Safety Processing”的安全系统,旨在企业客户不存储数据的前提下检测 AI 滥用行为,平衡企业数据隐私与模型安全监控需求。

事件核心:发生了什么

OpenAI 于 8 月 20 日宣布构建了一套名为“Private Safety Processing”的安全系统,专门面向使用其最先进 AI 模型的企业客户。该系统能够在维持“零数据保留”(ZDR)的前提下,跨多个相关交互检测滥用模式,这意味着系统处理完毕后不会保留任何数据。OpenAI 表示,公司仅接收包含活动类型和严重程度等有限安全信号,无法看到实际的输入或输出内容。

在数据存储方面,客户数据保留在客户自身基础设施中,或以加密形式存储且由客户持有密钥。OpenAI 产品政策负责人 Aleah Houze 指出,滥用风险通常需要多次对话才能显现,而竞争对手 Anthropic 对其最强大模型(如 Fable 5)仍要求 30 天数据保留期。OpenAI 计划于 9 月发布相关技术白皮书。

为什么重要

这一举措直接回应了企业采用大模型时的核心顾虑:数据安全与合规。此前,先进 AI 模型的安全监控往往依赖数据留存,这与企业严格的数据治理要求形成冲突。OpenAI 通过隐私安全处理机制,尝试在不牺牲安全检测能力的前提下满足企业零数据保留需求,这可能在技术上形成差异化竞争壁垒。

从行业竞争角度看,此举也直接对标 Anthropic 的数据保留策略。若该方案有效,可能推动大模型企业服务的安全标准升级,并影响其他模型厂商(如 Google、Meta 等)在数据隐私与安全检测之间的平衡策略。

对用户/开发者/创作者的影响

对企业用户而言,这意味着在采购 OpenAI 最先进模型时,有望在敏感数据不外泄的前提下获得大模型能力,降低合规审批门槛。对于开发者,若系统通过 API 开放,将能在保持数据本地化的同时获得滥用检测功能,减少自行构建安全层的成本。不过,目前该系统仅面向企业客户,普通开发者和创作者短期内不会直接接触此功能,但其间接影响在于:未来通过 API 调用大模型时,隐私保护条款可能更灵活。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

首先,9 月即将发布的技术白皮书是重要观察点,其技术实现细节(如跨会话检测的准确性、误报率等)将决定该方案实际可用性。其次,Anthropic 等竞品是否跟进调整数据保留策略值得关注,这可能引发企业级大模型服务在隐私保护上的新一轮竞争。最后,该系统在企业客户中的实际落地效果和定价问题,包括是否作为增值服务出售,将成为影响企业采购决策的关键变量。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 19284

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注