谷歌表示，黑客正通过人工智能驱动的黑客攻击行动推动创新
一句话看懂：谷歌近日发布报告指出，黑客利用生成式AI工具加速开发恶意软件与钓鱼攻击，甚至改进现有黑客工具的效率。这一趋势不仅加剧了网络安全威胁，也间接倒逼安全厂商加快AI防御技术的迭代。
事件核心：发生了什么
根据谷歌网络安全团队的最新分析，黑客组织正将大语言模型用于自动化编写恶意代码、生成难以检测的钓鱼邮件以及优化漏洞利用脚本。谷歌观察到，部分AI驱动攻击已从“实验性”转向“运营化”，例如通过ChatGPT或开源模型写定制化攻击载荷。这些攻击通常依赖少量算力即可运行，降低了进入门槛。同时，黑客还在针对AI系统的推理层发动“提示注入”攻击，试图绕过内容安全过滤器。
为什么重要
这一现象标志着AI攻防进入双向加速阶段。过去网络攻击依赖手动编写代码或复用已有工具，而AI的引入使黑客能够快速迭代攻击变种，绕过传统的签名检测机制。对安全行业而言，这意味着单纯依靠规则拦截已不充分，必须同步部署AI驱动的威胁检测、大模型行为监控以及对抗性训练。对谷歌这类超大规模云服务商来说，其AI产品（如Vertex AI、Gemini）的部署需要更严格地防范模型被恶意滥用。
对用户/开发者/创作者的影响
普通用户应警惕AI生成的钓鱼邮件，它们往往语法更自然、上下文更贴合个人习惯，同时建议启用多因素认证与硬件安全密钥。开发者和安全团队需要调整防御策略：将大模型输出监控纳入日志分析，对调用AI API的活动设置异常告警，并关注提示注入的防护方案（如输入过滤、上下文限制）。AI应用创作者在发布基于开源模型的应用时，应部署内容安全过滤层，避免模型被远程操纵生成恶意输出。
值得关注的后续
1. 攻击工具商品化：若黑客社区将AI辅助的“一键生成攻击代码”封装为服务，安全风险会迅速扩散。2. 监管压力：2025年底多国政府可能推动AI安全法修订，要求基础模型供应商对“毒性输出”负直接责任。3. 防御技术创新：目前公开信息显示，谷歌已在内部测试“AI红队”自动生成攻击场景，以验证自家模型的鲁棒性，这类技术若对外开放可能成为新的安全产品形态。
来源：reut.rs
