一句话看懂：微软研究员Dimitris Papailiopoulos展示了一种名为“Lazarus”的攻击：仅修改大模型中的少量休眠神经元，就能把正常AI Agent变成等待特定触发条件的“潜伏特工”。这提醒业界，模型权重文件需要像源代码一样被审查和审计。
事件核心：发生了什么
根据TechRadar报道，Papailiopoulos在实验中对Nemotron-Terminal-8B模型仅修改了10个神经元，随后让该AI Agent执行修复Node.js API服务器的任务。前几轮表现正常，但当服务器返回“connection refused”错误时，模型被触发，指示终端下载并执行外部脚本。攻击的触发条件可以是日期、关键词甚至错误消息，执行动作包括下载恶意代码或外泄敏感数据，前提是Agent具备相应权限。
技术原理在于，大模型包含数十亿参数，许多神经元在日常推理中很少被激活。研究者通过修改这些休眠神经元的权重，让它们识别特定触发条件，并强制模型生成攻击者指定的token，串联多个神经元即可输出任意恶意命令。由于改动比例极小，常规检查很难发现。目前公开信息显示，该研究由Claude辅助发现并细化攻击方法，但尚未说明是否经过同行评审。
为什么重要
当前AI供应链中，开源模型权重被广泛下载、微调和二次分发，但多数团队只关注代码和依赖项的安全，很少校验权重文件的完整性。Lazarus攻击表明，模型权重本身可以成为隐蔽的后门载体，而AI Agent普遍拥有终端、API和文件系统权限，一旦被触发，破坏力远超传统提示词注入。这为模型分发、企业采购和Agent部署提出了新的安全要求。
对用户/开发者/创作者的影响
对开发者而言，从不可信来源下载模型权重后直接部署，风险等同于运行未审计的第三方代码。建议在加载模型前比对原始权重哈希，限制Agent可执行的命令和可访问的网络范围，并对异常工具调用进行日志监控。对企业采购方，应要求模型供应商提供权重来源证明和完整性校验机制。对普通用户，使用集成了第三方模型的AI应用时，应关注厂商是否对模型权重做过安全审计。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
目前公开信息显示，该攻击需要直接修改模型权重文件，且会留下可追踪的改动痕迹，因此防御重点在于权重校验和权限隔离。后续可关注：主流模型托管平台是否推出权重签名或完整性验证功能；Agent框架是否默认收紧终端执行权限；以及监管机构是否将模型权重纳入软件供应链安全审查范围。
来源：TechRadar
