OpenAI、谷歌、微软、Anthropic 将支持统一退出标准,出版商可一次拒绝多家AI抓取

OpenAI、Google、Microsoft 和 Anthropic 同意采用一种基于 robots.txt 的共享“策略令牌”,让出版商一次表达拒绝 AI 抓取训练的意愿,不再需要逐家设置。

一句话看懂:OpenAI、Google、Microsoft 和 Anthropic 同意采用一种基于 robots.txt 的共享“策略令牌”,让出版商一次表达拒绝 AI 抓取训练的意愿,不再需要逐家设置。

事件核心:发生了什么

2026 年 10 月 30 日,据 The Verge 报道,Anthropic 标准技术负责人 Kevin Kelley 在 IETF 提出“策略令牌”方案,将放置于网站 robots.txt 文件中。四家 AI 公司承诺:遇到该令牌时限制自家爬虫访问。Anthropic 已采用;Google 和 Microsoft 计划明年支持;OpenAI 称将在“未来几个月”落地。Microsoft 还提供更细粒度选项,允许分别退出 AI 训练或 AI grounding,但网站仍会出现在 Bing 搜索结果中。

为什么重要

此前出版商必须向每家 AI 公司单独表达训练偏好,成本高且难统一。共享令牌把“退出”变成可声明、可识别的行业信号,降低内容方与模型方之间的协商摩擦。对 AI 公司而言,这也有助于减少未经授权抓取带来的版权争议。不过目前公开信息显示,该方案仍属自愿采用,缺乏强制约束;robots.txt 本身没有法律强制力,能否有效执行取决于各公司爬虫是否遵守。

对用户/开发者/创作者的影响

对内容创作者和出版商,最直接的变化是可以在 robots.txt 中一次写入 AI 训练偏好,减少逐家申请的运维负担。开发者若维护网站或内容平台,可关注令牌格式是否进入正式 IETF 草案,并评估对自身数据管线的影响。对普通用户,短期使用体验基本不变;但如果更多高质量站点选择退出,未来部分 AI 应用和搜索摘要的内容来源可能收窄。企业采购 AI 服务时,也可将供应商是否支持该标准纳入合规评估。

值得关注的后续

一是令牌能否从提案变成 IETF 正式标准,以及具体格式是否稳定;二是 Google、Microsoft 和 OpenAI 的落地时间是否兑现,尤其是“明年”和“未来几个月”的表述能否转为产品更新;三是其他 AI 公司、搜索引擎和内容平台是否跟进,以及 Cloudflare 等基础设施方是否将其纳入默认策略。

来源:The Verge

celebrityanime
celebrityanime
文章: 31438

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注