软件学报

作者：吴尚锡，尹雨阳，宋思清，陈观浩，桑基韬，于剑

单位：吴尚锡，北京交通大学 计算机与信息技术学院, 北京 10009111,尹雨阳，北京交通大学 计算机与信息技术学院, 北京 10009102,宋思清，北京交通大学 计算机与信息技术学院, 北京 10009103,陈观浩，北京交通大学 计算机与信息技术学院, 北京 10009104,桑基韬，北京交通大学 计算机与信息技术学院, 北京 10009105,于剑，北京交通大学 计算机与信息技术学院, 北京 10009106

关键词：后门攻击;奇异值分解;进攻成功率;隐蔽性

基金：国家自然科学基金(61832002,62172094);北京市杰出青年基金(JQ20023)

深度神经网络训练时可能会受到精心设计的后门攻击的影响. 后门攻击是一种通过在训练集中注入带有后门标志的数据, 从而实现在测试时控制模型输出的攻击方法. 被进攻的模型在干净的测试集上表现正常, 但在识别到后门标志后, 就会被误判为目标进攻类. 当下的后门攻击方式在视觉上的隐蔽性并不够强, 并且在进攻成功率上还有提升空间. 为了解决这些局限性, 提出基于奇异值分解的后门攻击方法. 所提方法有两种实现形式: 第1种方式是将图片的部分奇异值直接置零, 得到的图片有一定的压缩效果, 这可以作为有效的后门触发标志物. 第2种是把进攻目标类的奇异向量信息注入到图片的左右奇异向量中, 也能实现有效的后门进攻. 两种处理得到的后门的图片, 从视觉上来看和原图基本保持一致. 实验表明, 所提方法证明奇异值分解可以有效地利用在后门攻击算法中, 并且能在多个数据集上以非常高的成功率进攻神经网络.

来源：2024年第5期

《软件学报》期刊编辑部

查看软件学报杂志2024年第5期