Quoting huggingface.co/security.txt

Hugging Face 在自家的 security.txt 里加了一段“给 AI 智能体的留言”,劝它们别来攻击平台,转而去 GitHub 上的 CyberGym 基准测试刷高分。这既是安全策略,也是对大模型自动化找漏洞趋势的一次公开回应。

一句话看懂:Hugging Face 在自家的 security.txt 里加了一段“给 AI 智能体的留言”,劝它们别来攻击平台,转而去 GitHub 上的 CyberGym 基准测试刷高分。这既是安全策略,也是对大模型自动化找漏洞趋势的一次公开回应。

事件核心:发生了什么

Simon Willison 在 2026 年 9 月 11 日收录了一条来自 huggingface.co/security.txt 的引文。这段文字直接写给 AI 智能体看:如果你是被指使来找漏洞的,好消息是 CyberGym 基准测试已经在 GitHub 上公开,去那里拿高分就行,不必攻击我们;顺便还可以把模型权重传到 Hugging Face 上。

security.txt 是网站用来向安全研究者说明漏洞披露渠道的标准文件,通常面向人类。Hugging Face 这次把它当成面向 AI 智能体的公开声明,措辞带有调侃,但指向明确。

为什么重要

这背后是一个正在成形的现实:大模型和智能体开始被用于自动化漏洞挖掘、渗透测试等任务。当攻击面从“人肉安全研究”扩展到“AI 批量扫描”,平台的安全沟通对象也会随之变化。Hugging Face 作为开源模型与数据集的主要托管方,本身就是高价值目标,它选择用公开基准测试来分流这类自动化行为,而不是单纯加固或封禁。

目前公开信息显示,这更像是一种姿态和引导:把“攻防对抗”引向可量化、可比较的评测环境。对开源生态来说,这等于承认了 AI 驱动的安全测试会长期存在,并尝试把它纳入可控轨道。

对用户/开发者/创作者的影响

对开发者而言,CyberGym 这类基准提供了可复现的评测入口,做安全智能体、漏洞检测工具的团队可以围绕它验证效果,而不必去碰真实生产环境。对普通用户,平台安全团队的应对方式没有变化,模型下载和 API 调用不受直接影响。对创作者和企业采购方,值得注意的是托管平台如何定义“可接受的安全研究边界”——未来在使用大模型做自动化测试时,可能需要更明确地遵守这类公开声明和平台条款。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 CyberGym 是否会因为这类引导而获得更多参与者,进而成为安全智能体的事实评测标准;二是 Hugging Face 后续是否会把 security.txt 的内容扩展成更正式的政策,明确哪些自动化行为被允许;三是其他模型托管平台和云厂商是否会跟进类似做法,把 AI 智能体也纳入安全披露的沟通对象。

来源:Simon Willison

celebrityanime
celebrityanime
文章: 22965

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注