OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印

OpenAI 推出文本水印方案 textGrain,以回应欧盟《人工智能法案》对生成文本“机器可读可识别”的要求,但检测能力受文本长度和编辑影响明显,因此采取分阶段、限量开放的策略。

一句话看懂:OpenAI 推出文本水印方案 textGrain,以回应欧盟《人工智能法案》对生成文本“机器可读可识别”的要求,但检测能力受文本长度和编辑影响明显,因此采取分阶段、限量开放的策略。

事件核心:发生了什么

2026 年 10 月 5 日,OpenAI 公布其在欧盟《人工智能法案》(EU AI Act)框架下的文本溯源方案。该法案要求生成式 AI 提供方以机器可读方式标注生成文本,OpenAI 的应对是一款名为 textGrain 的文本水印技术:它在模型选词过程中嵌入不可见的统计信号,检测器据此判断一段文字是否带有 OpenAI 水印。

落地节奏分三步:全球 API 客户即日起可对部分模型选择开启文本水印,默认仍是关闭;未来数周内,面向欧盟地区的 ChatGPT 和 Codex 文本输出将加入隐形水印;水印检测器的申请通道同步开放,初期只向经审核的研究者和专家机构开放。图像与音频的验证工具(openai.com/verify 及 Content Provenance API)继续公开可用。

性能方面,在 1% 误报率目标下,200 token 文本的检出率约 80%,400 token 约 95%;数学等用词自由度低的内容检出率明显下降。对 400 token 文本替换 10% 同义词,检出率从约 92% 降至 66%,替换 25% 则降至 17%。OpenAI 称 textGrain 在测试中不逊于 SynthID 等方案,并计划将其开源。

为什么重要

这是头部大模型厂商首次针对 EU AI Act 的文本标识义务给出完整技术路线,且坦承技术边界,而非宣称“可完全识别 AI 文本”。这种克制本身会影响监管预期:合规被拆成“可选 API + 区域默认 + 受限检测”的组合,而不是一刀切的强制标识。其次,OpenAI 承诺开源 textGrain,意味着文本水印可能从各家闭源竞争走向共享基础设施,第三方检测工具的生态空间会被打开。对行业而言,欧盟事实上成为 AI 内容溯源规则的试验场,其他地区的监管大概率会参考这套做法的实际效果。

对用户/开发者/创作者的影响

开发者需要注意:API 端水印默认关闭,需主动 opt-in,目前仅限部分模型;检测端不对外开放,普通开发者短期内无法自建“是否 OpenAI 生成”的判定流程。对欧盟用户,ChatGPT 和 Codex 的文本输出将默认带水印,但改写、翻译或大幅润色会削弱甚至清除信号,不能当作可靠的内容审查依据。创作者和企业采购方应把水印理解为“弱信号”:它能提示某段文字可能经过 OpenAI 模型处理,但无法衡量人类贡献比例,也不代表内容真伪。医疗、法律、金融等本就依赖人工复核的场景,不应把检测结果作为决策依据。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是检测器何时、以何种条件向更广泛的研究者和企业开放,这决定文本溯源能否形成可用生态;二是 textGrain 开源后的实际采用情况,以及 Google SynthID 等竞品是否跟进统一标准;三是欧盟监管对“水印可被同义词替换绕过”的容忍度,若执法口径收紧,OpenAI 可能需要在 API 默认值或区域策略上进一步让步。

来源:OpenAI News

celebrityanime
celebrityanime
文章: 27420

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注