基于稀疏敏感的鲁棒网络分层剪枝策略

Li Ping,Yuan Xiaotong

Computer Applications and Software(2023)

引用 0|浏览8
暂无评分
摘要
深度神经网络很容易受到精心设计的对抗样本攻击.虽然基于极大极小值优化的对抗训练方法能提升网络的鲁棒性,但是对抗训练比正常训练需要更大容量和更多参数的模型.为了获得一个高鲁棒性和高稀疏度的网络模型,该文从模型压缩角度出发通过实验分析模型精度、鲁棒性和稀疏性之间的关系,并根据鲁棒网络稀疏敏感特性提出一种基于稀疏敏感的鲁棒网络非结构剪枝算法.在Mnist和Cifar10数据集上的白盒攻击实验结果表明,该算法在采用较大剪枝率时仍能保持高模型精度和高鲁棒性.在黑盒攻击下,基于该算法的稀疏模型的鲁棒精度甚至能超过未剪枝模型.
更多
AI 理解论文
溯源树
样例
生成溯源树,研究论文发展脉络
Chat Paper
正在生成论文摘要