软件学报

作者：袁天昊，吉顺慧，张鹏程，蔡涵博，戴启印，叶仕俊，任彬

单位：袁天昊，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110011,吉顺慧，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110002,张鹏程，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110003,蔡涵博，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110004,戴启印，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110005,叶仕俊，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110006,任彬，水利部水利大数据重点实验室(河海大学), 江苏 南京 211100;河海大学 计算机与信息学院, 江苏 南京 21110007

关键词：智能软件;语音识别;对抗样本;萤火虫算法;梯度评估方法

基金：国家自然科学基金(U21B2016, 61702159); 江苏省自然科学基金(BK20191297); 中央高校基本科研业务费

随着深度学习技术的成熟, 智能语音识别软件获得了广泛的应用, 存在于智能软件内部的各种深度神经网络发挥了关键性的作用. 然而, 最近的研究表明: 含有微小扰动的对抗样本会对深度神经网络的安全性和鲁棒性构成极大威胁. 研究人员通常将生成的对抗样本作为测试用例输入到智能语音识别软件中, 观察对抗样本是否会让软件产生错误判断, 从而采取防御方法来提高智能软件安全性和鲁棒性. 在对抗样本的生成中, 黑盒智能语音软件在生活中较为常见, 具有实际的研究价值, 而现有的生成方法却存在一定的局限性. 为此, 针对黑盒智能语音软件, 提出了一种基于萤火虫算法和梯度评估方法的目标对抗样本生成方法, 即萤火虫-梯度对抗样本生成方法. 针对设定的目标文本, 在原始的音频样本中不断加入干扰, 根据当前对抗样本的文本内容与目标文本之间的编辑距离, 选择使用萤火虫算法或梯度评估方法来优化对抗样本, 最终生成目标对抗样本. 为了验证方法的效果, 在常用的语音识别软件上, 使用公共语音数据集、谷歌命令数据集和LibriSpeech数据集这3种不同类型的语音数据集进行了实验评估, 并寻找志愿者进行对抗样本的质量评估. 实验表明, 提出的方法能有效提高目标对抗样本生成的成功率, 例如针对DeepSpeech语音识别软件, 在公共语音数据集上生成对抗样本的成功率相比对比方法提升了13%.

来源：2022年第5期

《软件学报》期刊编辑部

查看软件学报杂志2022年第5期