软件学报

北大核心,INSPEC,JST,Pж(AJ),EI

国内刊号:11-2560/TP

国际刊号:1000-9825

软件学报杂志2024年第11期:基于数据变异的神经网络测试用例选择方法

发布日期:

作者:曹雪洁,陈俊洁,闫明,尤翰墨,吴卓,王赞

单位:曹雪洁,天津大学 智能与计算学部, 天津 30035011,陈俊洁,天津大学 智能与计算学部, 天津 30035002,闫明,天津大学 智能与计算学部, 天津 30035003,尤翰墨,天津大学 智能与计算学部, 天津 30035004,吴卓,天津大学 新媒体与传播学院, 天津 30035005,王赞,天津大学 智能与计算学部, 天津 300350;天津大学 新媒体与传播学院, 天津 30035006

关键词:深度学习;软件测试;测试用例选择;数据变异

基金:国家自然科学基金(62002256)

深度神经网络目前已被广泛应用于自动驾驶、医疗诊断、语音识别、人脸识别等安全攸关领域, 因此深度神经网络测试对于保证其质量非常关键. 然而, 为判断DNN模型预测是否正确而对测试用例进行标注的成本很高. 因此, 筛选出能够揭示DNN模型错误行为的测试用例并优先对其进行标注, 能够尽快修复模型缺陷, 从而提升DNN测试的效率、保证DNN模型质量. 提出一种基于数据变异的测试用例选择方法DMS. 该方法设计并实现数据变异算子生成变异模型, 以模拟模型缺陷并捕获测试用例揭错时的动态模式, 从而评估测试用例的揭错能力. 在25个深度学习测试集和模型的组合上进行实验, 结果表明, 无论是筛选出的样本中揭错用例的比例还是揭错方向的多样性, DMS都要显著优于现有的测试用例选择方法. 具体来说, 以原始测试集作为候选集时, 在选择10%的测试用例时, DMS能够筛选出候选集中53.85%–99.22%的揭错用例, 在选择5%的测试用例时, DMS筛选出的测试用例已经几乎能覆盖所有的揭错方向. 相较于8种对比方法, DMS平均多找出12.38%–71.81%的揭错用例, 证明了DMS在测试用例选择任务中的显著有效性.

来源:2024年第11期

《软件学报》期刊编辑部

查看软件学报杂志2024年第11期

联系我们

  • 地址:北京8718信箱
  • 电话:010-62562563
  • E-mail:jos (a) iscas. ac. cn

咨询工作人员