OpenAI 正在为 AI 生成的文本添加隐形水印

OpenAI 开始在 ChatGPT 和编程智能体 Codex 的输出中嵌入隐形文本水印,先在欧洲强制、其他地区 API 可选,用来让机器判断内容是否由 AI 生成。这是对欧盟《人工智能法案》标记义务的一次合规落地,但检测本身仍有明显局限。

一句话看懂:OpenAI 开始在 ChatGPT 和编程智能体 Codex 的输出中嵌入隐形文本水印,先在欧洲强制、其他地区 API 可选,用来让机器判断内容是否由 AI 生成。这是对欧盟《人工智能法案》标记义务的一次合规落地,但检测本身仍有明显局限。

事件核心:发生了什么

OpenAI 于周一宣布,将在 ChatGPT 与编程智能体 Codex 生成的文本中加入隐形水印。该水印系统名为 textGrain,原理是在大模型逐词生成时,除参考前文外,还引入由密钥决定的伪随机值,从而在文本中留下可被统计识别的信号;检测工具据此判断文本是否依赖这些伪随机值,进而标记为 AI 生成。

部署节奏上,未来几周内该功能将在欧盟的 ChatGPT 和 Codex 中上线,属强制要求;面向全球 API 客户则在部分模型上可选,默认关闭。检测工具仅向申请获批的研究人员和专家开放。

OpenAI 同时公布了检测能力的边界:在 200 词左右的 AI 生成段落中,检出率约为 80%,数学等用词固定的领域更低;对文本进行修改后效果明显下降,400 词内容改动 10% 后检出率降至 66%,替换 25% 后只剩 17%。

为什么重要

这是欧盟《人工智能法案》第 50(2) 条的直接产物,该条款要求 AI 系统提供方以机器可读格式标记输出内容。法案 2024 年签署、2025 年起逐步生效,今年 8 月 2 日起多数条款适用;此前已发布模型的厂商须在 12 月 2 日前合规,违者最高可被罚全球年营业额的 3%。按此前路透报道的约 700 亿美元年化经常性收入估算,这一上限对应可能超过 20 亿美元。

行业层面,Anthropic 已宣布按欧盟规则为 Claude 输出加水印,且面向全球所有用户,不同于 OpenAI 目前的地区与可选策略。围绕“AI 文本来源标注”,闭源大模型厂商正形成各自的技术与合规路径,而检测工具只对少数研究者开放,也意味着透明度与安全性之间存在取舍。

对用户/开发者/创作者的影响

普通 ChatGPT 用户短期内几乎无感知,水印不影响正常阅读;API 开发者若面向欧盟市场,需关注所选模型是否默认开启及对下游检测的影响,非欧盟客户则需主动开启。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对内容创作者和企业采购而言,水印不能证明内容归属、准确性或提示者身份,缺少水印也不等于人工撰写,因此不宜把它当作内容溯源或版权判定的依据。依赖 AI 生成内容再人工改写的团队,也要意识到改写会削弱水印可检测性。

值得关注的后续

一是欧盟 12 月 2 日期限前,OpenAI 是否将强制范围扩大到更多地区和模型;二是检测工具是否从研究人员扩展到平台方或企业;三是 Anthropic 等竞品是否调整全球策略,以及监管机构对“可检测性”实际效果的口径。目前公开信息显示,文本水印仍属早期技术,落地效果有待观察。

来源:Mashable

celebrityanime
celebrityanime
文章: 27542

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注