软件学报

作者：韦璠，宋云飞，邵明莉，刘天，陈小红，王祥丰，陈铭松

单位：韦璠，上海市高可信计算重点实验室(华东师范大学), 上海 20006211,宋云飞，上海市高可信计算重点实验室(华东师范大学), 上海 20006202,邵明莉，上海市高可信计算重点实验室(华东师范大学), 上海 20006203,刘天，上海市高可信计算重点实验室(华东师范大学), 上海 20006204,陈小红，上海市高可信计算重点实验室(华东师范大学), 上海 20006205,王祥丰，上海市高可信计算重点实验室(华东师范大学), 上海 20006206,陈铭松，上海市高可信计算重点实验室(华东师范大学), 上海 20006207

关键词：物联网;特征融合;整体多样性;模型防御;鲁棒性;对抗样本

基金：国家重点研发计划（2018YFB2101300）；国家自然科学基金（61872147）

使用深度神经网络处理物联网设备的急剧增加产生的海量图像数据是大势所趋，但由于深度神经网络对于对抗样本的脆弱性，它容易受到攻击而危及物联网的安全.所以，如何提高模型的鲁棒性，就成了一个非常重要的课题.通常情况下，组合模型的防御表现要优于单模型防御方法，但物联网设备有限的计算能力使得组合模型难以应用.为此，提出一种在单模型上实现组合模型防御效果的模型改造及训练方法：在基础模型上添加额外的分支；使用特征金字塔对分支进行特征融合；引入整体多样性计算辅助训练.通过在MNIST和CIFAR-10这两个图像分类领域最常用的数据集上的实验表明，该方法能够显著提高模型的鲁棒性.在FGSM等4种基于梯度的攻击下的分类正确率有5倍以上的提高，在JSMA，C&W以及EAD攻击下的分类正确率可达到原模型的10倍.同时，不干扰模型对干净样本的分类精度，也可与对抗训练方法联合使用获得更好的防御效果.

来源：2020年第9期

《软件学报》期刊编辑部

查看软件学报杂志2020年第9期