软件学报

作者：李相葛，罗红，孙岩

单位：李相葛，北京邮电大学 计算机学院 (国家示范性软件学院), 北京 10087611,罗红，北京邮电大学 计算机学院 (国家示范性软件学院), 北京 10087602,孙岩，北京邮电大学 计算机学院 (国家示范性软件学院), 北京 10087603

关键词：中文情感分类;对抗样本;汉语特征

基金：国家自然科学基金(62172051, 61877005)

深度神经网络容易受到来自对抗样本的攻击, 例如在文本分类任务中修改原始文本中的少量字、词、标点符号即可改变模型分类结果. 目前NLP领域对中文对抗样本的研究较少且未充分结合汉语的语言特征. 从中文情感分类场景入手, 结合了汉语象形、表音等语言特征, 提出一种字词级别的高质量的对抗样本生成方法CWordCheater, 涵盖字音、字形、标点符号等多个角度. 针对形近字的替换方式, 引入ConvAE网络完成汉字视觉向量的嵌入, 进而生成形近字替换候选池. 同时提出一种基于USE编码距离的语义约束方法避免对抗样本的语义偏移问题. 构建一套多维度的对抗样本评估方法, 从攻击效果和攻击代价两方面评估对抗样本的质量. 实验结果表明, CWordAttacker在多个分类模型和多个数据集上能使分类准确率至少下降27.9%, 同时拥有更小的基于视觉和语义的扰动代价.

来源：2023年第11期

《软件学报》期刊编辑部

查看软件学报杂志2023年第11期