脉冲神经网络更难被窃取:MSA 基准测试显示仿制模型一致性低 10%–20%

arXiv 新论文用四种模型窃取攻击对比测试脉冲神经网络(SNN)与常规神经网络,发现 SNN 更难被黑盒查询复制,替代模型与目标的一致性低 10% 至 20%,对抗迁移性低 15% 至 25%。

一句话看懂:arXiv 新论文用四种模型窃取攻击对比测试脉冲神经网络(SNN)与常规神经网络,发现 SNN 更难被黑盒查询复制,替代模型与目标的一致性低 10% 至 20%,对抗迁移性低 15% 至 25%。

事件核心:发生了什么

2026 年 10 月 28 日发布于 arXiv cs.AI 的论文(编号 2610.36298)指出,部署在查询接口后的模型会暴露预测结果,攻击者可用这些结果训练替代模型,在不知道参数和训练数据的情况下复制目标行为,即模型窃取攻击(MSA)。这类攻击在常规人工神经网络(ANN)上已有较充分研究,但脉冲神经网络(SNN)通过稀疏离散脉冲通信,输出依赖随时间变化的膜电位,而非静态输入输出映射,因此理论上更难从响应中重建。作者以 Papernot、Tramèr、T-RND 和颜色扰动四种代表性攻击为基准,在 MNIST、Fashion-MNIST 和 CIFAR-10 上对比 SNN 与其 ANN 对应模型。摘要称,在所有攻击和数据集组合中,SNN 替代模型与目标的一致性低 10% 至 20%,对抗迁移性低 15% 至 25%;即便查询预算较大,ANN 替代模型也难以逼近 SNN 的决策边界。以上仅为论文摘要信息,尚未核验全文实验。

为什么重要

模型窃取直接关系到闭源模型和 API 服务的商业价值:攻击者可通过查询接口复制能力,绕开训练投入。如果 SNN 的时序脉冲计算确实能提高复制门槛,就意味着安全敏感场景多了一条不依赖加密或访问控制的模型保护路径,也为神经形态硬件架构增加了安全卖点。但需注意,这是针对特定攻击和基准数据集的实验结论,不能外推为 SNN 在所有任务上都无法被窃取。

对用户/开发者/创作者的影响

对通过 API 提供推理服务的开发者,该研究提示:模型保护不能只靠限制查询次数;若底层是 ANN,替代模型仍可能以较低成本逼近。对探索 SNN 或神经形态芯片的团队,安全性可成为选型时的附加考量,但部署前仍需关注推理延迟、工具链成熟度和精度权衡。对使用图像生成或大模型 API 的应用方,短期内主流模型仍是 ANN,模型窃取风险依旧存在,应结合访问审计和输出扰动等手段。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是论文全文是否公开更细的实验设置,例如查询预算、SNN 训练配置与替代模型结构;二是后续研究是否在更大规模数据集和不同 SNN 编码方式上复现该结论;三是产业界是否把抗窃取纳入神经形态硬件或 SNN 推理服务的宣传与合规评估。

来源:arXiv cs.AI

celebrityanime
celebrityanime
文章: 30562

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注