Hugging Face 现山寨 OpenAI“Privacy Filter”模型项目:下载量超 20 万次、内含恶意木马

Hugging Face 现山寨 OpenAI“Privacy Filter”模型项目:下载量超 20 万次、内含恶意木马

Hugging Face 现山寨 OpenAI“Privacy Filter”模型项目:下载量超 20 万次、内含恶意木马

一句话看懂:AI 安全公司 HiddenLayer 在 Hugging Face 上发现一个伪装成 OpenAI 官方“Privacy Filter”模型的山寨仓库,下载量已超 20 万次,实际暗藏信息窃取木马,开发者下载运行后可能面临系统被入侵的风险。

事件核心:发生了什么

AI 安全公司 HiddenLayer 披露,他们在模型托管平台 Hugging Face 上发现一个名为“Open-OSS / privacy-filter”的恶意仓库。该仓库刻意模仿 OpenAI 近日开源的隐私脱敏模型“Privacy Filter”,文件目录结构与正版几乎一致,但实际捆绑了信息窃取类木马(Infostealer)。根据安全公司数据,该仓库在被投诉下架前已被下载超过 20 万次。如果开发者按页面说明下载并运行了库中的文件,黑客即可入侵受害者的开发环境。

为什么重要

这一事件暴露了 AI 开源生态中的供应链安全隐患。Hugging Face 是目前全球最大的预训练模型托管平台,开发者习惯直接下载并运行公开模型仓库中的代码或脚本。山寨项目通过镜像热门官方项目的方式降低受害者警惕,利用 AI 开发者急于试用新模型的情绪诱骗点击。20 万次下载量意味着至少有数万名开发者的环境暴露在木马威胁下,若这些环境包含 API 密钥、私有训练数据或云服务凭证,可能导致更大规模的数据泄露。

对用户/开发者/创作者的影响

对于 AI 开发者而言,这一事件提醒:即便在官方托管平台下载模型,也绝不能盲目信任仓库名称和文件列表。建议下载前核对仓库所有者是否为官方认证账号(如 OpenAI 官方 GitHub 或 Hugging Face 组织),并检查仓库的创建时间、Star 数以及 Issues 中是否有社区举报。HiddenLayer 建议,受影响的用户最好优先考虑彻底重建开发环境,而不是仅尝试手动清理恶意软件;在确认系统完全清理之前,不要继续登录电脑或输入任何敏感信息。

值得关注的后续

目前公开信息显示,该恶意仓库已被下架,但尚不清楚有多少开发者实际运行过恶意文件。后续应关注:第一,Hugging Face 是否会因此事件强化仓库审核机制,例如对高下载量项目增加代码安全扫描;第二,HiddenLayer 或其他安全公司是否会披露该木马的具体行为,例如它窃取了哪些类型的凭证或数据;第三,OpenAI 官方是否计划在发布开源模型时会附带官方分发渠道声明,帮助开发者快速识别真伪。

来源:IT之家 (ITHome)

celebrityanime
celebrityanime
文章: 6106

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注