专家警告:朝鲜黑客正越来越多地利用AI制造更智能、更隐蔽的网络攻击。

朝鲜黑客组织 Kimsuky 被发现在攻击基础设施中本地部署了 Ollama、GPT4All 等大模型,用于绕开云端 AI 服务的监控。这表明AI攻击正从“偶尔用一下”变成系统化的能力建设,防御者需要切换到行为检测思路。

一句话看懂:朝鲜黑客组织 Kimsuky 被发现在攻击基础设施中本地部署了 Ollama、GPT4All 等大模型,用于绕开云端 AI 服务的监控。这表明AI攻击正从“偶尔用一下”变成系统化的能力建设,防御者需要切换到行为检测思路。

事件核心:发生了什么

安全研究公司 Genians 在数月的追踪与日志分析中发现,朝鲜国家级黑客组织 Kimsuky 在其用于命令控制(C2)的基础设施中,搭建了完整的本地 AI 工具链。除了 Ollama、GPT4All 和 Msty 三款本地大模型运行环境外,还配置了检索增强生成(RAG)工具用于文档搜索,并收集了 AI Agent 开发框架、文本转语音软件,以及 AI 辅助编程工具 Cursor。

Kimsuky 之所以选择本地部署而非 ChatGPT、Claude 等云端服务,是因为 OpenAI 等厂商近期已主动识别并终止了多个被用于钓鱼攻击和人口贩卖的账户。本地运行模型可以避免向外部 AI 服务发送敏感信息,从而规避这一层面的审查。

为什么重要

此前安全行业观察到的 AI 犯罪大多停留在生成钓鱼邮件、制作仿冒落地页等较浅层面。但 Genians 指出,Kimsuky 基础设施中呈现的不是用 AI 生成几份文档,而是一个持续、一致的能力构建过程:搭建本地大模型运行环境、基于自持文档配置 RAG、收集 Agent 开发框架、储备外部商业 AI 服务的接入库。

这一发现改变了两个前提:第一,开源模型的本地部署让攻击者可以完全脱离云厂商的内容审核与风控;第二,安全团队过去依赖内容特征(如识别 AI 生成的文本)来发现攻击,面对本地模型时会明显失效。攻击者正在将大模型视为一项基础设施来长期经营,而不是一次性工具。

对用户/开发者/创作者的影响

对企业安全团队而言,这次事件意味着仅靠基于入侵指标(IoC)的检测远远不够。Genians 建议组织将 LNK 文件执行、PowerShell 调用、持久化建立、外部通信等异常行为串联起来做上下文关联分析,以评估整体威胁等级,本质上是把检测重心从“看内容”转向“看行为”。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对 AI 开发者和开源社区来说,Ollama、GPT4All 这类工具让个人设备和内部网络运行大模型变得非常容易,降低了使用门槛,但也意味着同样的便利可以被攻击者利用。开源模型的可获取性在安全上是一把双刃剑,这次事件为“模型开源与安全风险”的讨论增加了一个新的现实案例。

值得关注的后续

目前公开信息显示,Genians 已观察到 Kimsuky 在基础设施中完成了这些 AI 组件的部署,但关于这些工具在具体攻击战役中发挥的实际效果,尚缺少更详细的披露。接下来值得观察的是:其他攻击组织是否会跟进这种本地化 AI 运营模式;安全厂商的行为检测产品能否在企业端快速落地;以及开源大模型的分发平台是否会因滥用问题推进更严格的使用与追溯机制。

来源:TechRadar

celebrityanime
celebrityanime
文章: 18318

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注