一句话看懂：7月13日，蚂蚁集团旗下AI安全实验室开源了智能体安全护栏SingGuard-NSFA，并披露了多模态安全护栏SingGuard的细节。这两款模型分别针对“自主执行智能体”和“多模态交互大模型”两大前沿场景，旨在为日益强大的AI系统提供行为与内容层面的底层安全能力。
事件核心：发生了什么
蚂蚁AI安全实验室此次开源的两款模型各有侧重。SingGuard-NSFA专注于智能体“执行动作”前的实时安全检测，能在约50毫秒内完成单项风险评估，适用于高并发场景下的实时拦截。它基于OWASP等国际安全指南，将智能体风险划分为7大类、28中类和185个具体场景，并建立了覆盖133种语言、近10万样本的安全评估体系。模型提供0.8B、2B、4B和9B四种尺寸，其中0.8B版本能达到常规8B模型的性能水平。SingGuard则面向多模态内容安全，其设计针对当前大模型在理解扭曲文本、图像等复杂输入时暴露的漏洞——例如6月Anthropic发布的Claude Fable5就被发现可通过Unicode字符变体绕过安全审查。
为什么重要
随着AI从“生成内容”走向“自主执行”，安全问题已从模型输出层扩展至行为控制、权限管理和系统治理层面。过去一年，Amazon Q的提示中毒、Microsoft Copilot的数据泄露、开源智能体OpenClaw的提示注入等事故持续发生。2025年12月，OWASP发布了《智能体应用安全十大风险》；2026年5月，中国网信办、发改委、工信部联合发布了《关于规范应用和创新发展智能体的意见》，首次在国家层面明确智能体安全治理要求。蚂蚁此次开源，是对这一政策与行业痛点的直接回应。目前大多数安全方案停留在内容过滤层面，而SingGuard-NSFA将防护延伸到智能体“执行动作”之前，属于行业稀缺的行为安全基础设施。
对用户/开发者/创作者的影响
对于开发智能体应用的开发者而言，SingGuard-NSFA提供了可直接集成到工作流中的开源安全模块，无需自研复杂的风险识别系统。模型的小尺寸版本（0.8B）可以部署在边缘设备或资源受限环境中，降低了安全防护的算力门槛。对于使用智能体工具的企业，这类安全模型有助于满足合规审计要求——SingGuard-NSFA支持逐行生成详细风险分析报告，方便事后追溯。对于普通用户，这意味着他们使用的智能体在调用API、执行代码或访问敏感信息时，有了一道可追溯、可拦截的安全防线，减少了数据泄露和权限滥用风险。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
第一，开源后开发者社区如何响应？模型能否被快速集成到主流的智能体框架（如LangChain、AutoGPT）中，将决定其生态影响力。第二，SingGuard的多模态安全能力是否已覆盖最棘手的逃逸攻击手法？目前公开信息显示其细节尚未完全披露，需要关注后续是否发布测评报告。第三，竞品是否会跟进开源类似的行为安全模型？其他科技巨头可能加快推出防御性开源项目，行业安全标准有望从“事后审核”逐步过渡到“行为级实时拦截”。
来源：AIbase
