中国的新开源模式加剧了人工智能黑客攻击的威胁

一句话看懂：中国AI公司智谱AI（Zhipu AI）宣布其最新模型GLM-5以开源形式发布，引发行业关注。与以往不同，这次开源不仅开放了模型权重，还公开了训练技术和部分数据集，使得黑客组织能够更容易地利用该模型进行恶意攻击，包括生成钓鱼邮件和恶意代码，加剧了AI安全领域的挑战。

事件核心：发生了什么

据Axios报道，中国人工智能公司智谱AI于2026年6月25日发布了其最新的大语言模型GLM-5，并采取了前所未有的开源策略。该策略不仅向公众免费提供了模型权重，还公开了详细的训练方法、中间检查点以及部分训练数据。这种深度的开源，使得第三方开发者——包括黑客——能够在不依赖官方API的情况下，对模型进行完全的控制和微调。安全研究机构指出，这一做法直接导致了针对GLM-5的恶意使用案例迅速增加，例如用于自动化生成高度逼真的网络钓鱼内容，以及编写用于渗透测试的恶意软件。这与前代模型GLM-4系列的开源程度形成鲜明对比，后者仅开放了权重。

为什么重要

这一事件打破了AI开源社区与AI安全之间的既有平衡。此前，主流闭源模型（如OpenAI的GPT-4o）通过API接口实施内容安全策略，可以限制模型被用于恶意目的。而GLM-5的深度开源，意味着任何下载了模型的人都可以移除安全防护层、修改模型行为，甚至针对特定攻击场景进行微调。这种做法在推动技术进步和民主化的同时，显著降低了恶意使用AI的门槛。对于全球AI安全行业而言，这提出了一个根本性的新问题：当最先进的模型完全开源且训练技术透明时，传统的“安全护栏”模式是否已经失效？这不仅是技术问题，也引发了关于开源许可证、出口管制以及全球AI治理的新一轮讨论。

对用户/开发者/创作者的影响

开发者： 对于使用GLM-5进行合法创新（如垂直领域应用、本地化部署）的开发者来说，深度开源是巨大的生产力提升，可以无限制地定制模型。但同时也面临更高的安全责任，必须自主构建内容过滤和风险评估体系，否则可能无意中成为恶意攻击链的一环。
企业用户： 企业部署基于开源模型的应用时，需要对模型的来源和安全性进行更严格的审计。如果企业内部系统被使用GLM-5生成的恶意内容攻击，溯源和防御将变得更加困难。
普通用户： 用户可能会收到更难以分辨真假的AI生成内容（如诈骗邮件、假冒音频），因为攻击者可以使用最先进的AI工具进行个性化攻击。这对个人的网络行为习惯和隐私保护意识提出了更高要求。

值得关注的后续

安全模型的补丁竞赛： 开源社区和第三方安全公司可能很快会推出专门针对GLM-5的安全版微调模型或推理过滤器，试图在保持高性能的同时，修复已知的恶意使用漏洞。智谱AI是否会推出官方的安全增强版本是关键。
监管与出口政策调整： 中美两国相关监管部门可能会重新审视开源AI模型的出口管制政策。特别是涉及先进训练技术和数据集的开放，可能会触发新的许可要求或审查机制。
竞品反应： 其他主要AI模型公司（如Meta、Mistral、百度、阿里巴巴等）可能会重新评估自身的开源策略。是跟随智谱AI的深度开源路线，还是转向更保守的“安全优先”开源策略，将成为行业风向标。