OpenAI 将在欧盟为 ChatGPT 生成的文本添加水印

OpenAI 将在欧盟为 ChatGPT 和 Codex 生成的文本加入不可见水印,以满足 8 月 2 日生效的《欧盟 AI 法案》透明度要求;这不会主动扩展到全球,但会改变 AI 内容可检测性的行业基线。

一句话看懂:OpenAI 将在欧盟为 ChatGPT 和 Codex 生成的文本加入不可见水印,以满足 8 月 2 日生效的《欧盟 AI 法案》透明度要求;这不会主动扩展到全球,但会改变 AI 内容可检测性的行业基线。

事件核心:发生了什么

OpenAI 周一在博客中宣布,将在未来几周面向欧盟地区的 ChatGPT 和 Codex 用户(覆盖所有套餐)推出文本水印,其他地区暂不做默认开启。与此同时,全球任何地区的开发者从今天起,可在 OpenAI API 的指定模型上主动打开该功能,默认关闭。该水印不是可见符号,而是通过微调模型选词方式留下一个隐藏模式,检测器可借助密钥识别。由于水印存在于文字本身,复制粘贴后仍然保留。OpenAI 同步发布了名为 textGrain 的技术报告,与宾夕法尼亚大学和耶鲁大学研究者合写。测试显示,替换 10% 词汇为同义词后,检测率从约 92% 降至 66%;短文本、数学答案和翻译内容更难检测。OpenAI 强调水印不识别具体用户,模型性能没有明显变化。

为什么重要

《欧盟 AI 法案》的透明度条款要求 AI 公司以其他系统可识别的方式标记 AI 生成内容,OpenAI 此举属于合规动作,而非产品偏好。Anthropic 已在全球范围给 Claude 文本加水印,但遭到部分用户反弹,认为指令、上下文和决策由人提供,Claude 只是工具。OpenAI 此前据《华尔街日报》2024 年报道曾开发过文本水印但推迟发布,部分原因是担心用户流向不加水印的竞品。目前 OpenAI、Anthropic、Google、Meta、微软等已承诺遵守欧盟关于 AI 生成内容的实践准则。这意味着文本水印正在从可选项变成大模型厂商在欧盟市场的合规成本,也可能影响“AI 生成内容是否可追溯”的行业标准。

对用户/开发者/创作者的影响

对欧盟普通用户,ChatGPT 和 Codex 的输出将默认携带水印,但日常使用感知不强,编辑和改写会削弱检测率。对全球开发者,API 端的文本水印默认关闭,需要手动为指定模型开启,意味着是否部署水印目前仍是一个产品选择,而非强制约束。对内容创作者和企业采购方,水印只能说明某段文字可能由 OpenAI 系统生成或处理过,无法证明人类参与程度;反过来,没有水印也不等于内容由人类写作,可能因为文本太短、经过大量编辑或来自其他公司的大模型。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,欧盟水印是否会成为其他地区的默认配置,以及 OpenAI 是否会将 API 端水印从“手动开启”改为“默认开启”。第二,检测器的开放范围目前仅限获批研究者和专家组织,后续是否扩大、误报率如何,将决定这项技术能否被内容平台和监管机构真正采用。第三,同行的跟进节奏——Anthropic 已全球铺开,Google、Meta、微软等如何响应欧盟准则,会直接影响用户和开发者对不同大模型的选择。

来源:TechCrunch AI

celebrityanime
celebrityanime
文章: 27448

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注