Patreon不再请求AI机器人不要抓取——转而开始阻止它们

创作者订阅平台Patreon宣布升级防御措施,不再依赖robots.txt文件“请求”AI爬虫停止抓取内容,而是与Cloudflare合作,直接主动阻止用于训练的AI机器人访问。这标志着内容平台从“劝退”转向“硬封锁”AI爬虫的策略升级。

Patreon不再请求AI机器人不要抓取——转而开始阻止它们

一句话看懂:创作者订阅平台Patreon宣布升级防御措施,不再依赖robots.txt文件“请求”AI爬虫停止抓取内容,而是与Cloudflare合作,直接主动阻止用于训练的AI机器人访问。这标志着内容平台从“劝退”转向“硬封锁”AI爬虫的策略升级。

事件核心:发生了什么

美东时间7月17日,Patreon宣布与互联网基础设施提供商Cloudflare合作,利用Cloudflare的AI爬虫控制技术(AI Crawl Control)直接阻止未经授权的AI训练机器人。Patreon产品负责人Drew Rowny在公告中强调,“创作者应该能够发展观众,并控制他们的作品如何被使用。”

Patreon表示,自2023年首次部署反爬措施以来,AI爬虫的技术手段变得更加复杂。测试数据显示,在升级前,单个AI训练爬虫每周对Patreon的访问尝试次数从数千次降至零,这证明此前基于robots.txt的请求并未被普遍遵守。此外,Patreon的付费墙曾大量保护创作者内容,但最近推出新的发现工具(如重新设计的首页Feed和类推文功能Quips)增加了内容暴露风险,迫使平台采取更激进的阻断手段。

值得注意的是,Patreon明确允许用于索引页面和信息整理、能将用户引导回平台的正规爬虫。公司博客文章直接表明立场:“同意不应取决于爬虫是否选择遵守规则。”

为什么重要

此举揭示出内容平台与AI训练公司之间“君子协议式”防控的失效。标准做法robots.txt文件本质上是一种自律机制,依赖爬虫操作方主动遵守,而恶意或无权限的AI爬虫可以完全无视。Patreon与Cloudflare的合作代表了行业新趋势:利用基础设施层面的技术封锁,而非仅依靠规则宣示。

Cloudflare近期已推出多项工具,包括允许网站向AI爬虫收费的“按爬取付费”市场,以及将“混合用途”(既索引又训练)爬虫默认阻止的策略。Patreon的加入进一步固化了这一模式,可能倒逼更多平台(特别是付费订阅或UGC社区)跟进。这对大模型厂商而言,意味着合法获取用于训练的高质量、长尾、封闭社区内容的门槛显著提高。

对用户/开发者/创作者的影响

对创作者:最直接受益。Patreon上的创作者不再需要期望爬虫“自觉”,平台主动阻止AI公司无偿使用作品训练模型,有助于维护创作者的版权控制和内容分发自主权。但需注意,平台允许的正规索引爬虫仍能工作,不影响搜索流量。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对AI开发者/公司:获取训练数据的合规成本上升。依赖爬取公开网络内容的模型训练模式面临更多硬阻力,可能加速行业转向授权数据采购、API调用或与内容平台商业合作。尤其对于需要大量封闭社区(如付费订阅、会员内容)语料的模型,获取难度加大。

对普通用户:短期无直接影响。但长期看,若更多平台效仿,AI产品的知识广度可能受限,尤其是难以获取小众、私密或高价值创作者社区的信息。

值得关注的后续

1. 其他内容平台的跟进速度:Patreon选择了主动封锁,类似平台(如Substack、OnlyFans、Circle等会员制社区)是否会采用相同策略?主流新闻媒体网站是否也会批量升级从“请求”转向“封锁”?

2. Cloudflare “按爬取付费”市场落地情况:Patreon虽未直接采用付费模式,但Cloudflare已推出让网站向AI爬虫收费的工具。后续是否会有其他大平台开启“允许爬取但需付费”的折中方案,从而催生新的数据授权市场?

3. AI训练公司如何反制:大模型厂商是否会通过法律诉讼挑战此类主动封锁的合规性,或转向更隐蔽的代理、分布式爬虫技术?基础设施层面的猫鼠游戏可能进一步升级。

来源:TechCrunch AI

celebrityanime
celebrityanime
文章: 13892

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注