软件学报

作者：陈思然，吴敬征，凌祥，罗天悦，刘镓煜，武延军

单位：陈思然，中国科学院软件研究所 智能软件研究中心, 北京 100190;中国科学院大学, 北京 10004911,吴敬征，中国科学院软件研究所 智能软件研究中心, 北京 100190;计算机科学国家重点实验室(中国科学院 软件研究所), 北京 10019002,凌祥，中国科学院软件研究所 智能软件研究中心, 北京 10019003,罗天悦，中国科学院软件研究所 智能软件研究中心, 北京 10019004,刘镓煜，中国科学院软件研究所 智能软件研究中心, 北京 100190;中国科学院大学, 北京 10004905,武延军，中国科学院软件研究所 智能软件研究中心, 北京 100190;计算机科学国家重点实验室(中国科学院 软件研究所), 北京 10019006

关键词：对抗攻击;漏洞检测;强化学习;代码转换

基金：中国科学院战略性先导科技专项(XDA0320400); 国家自然科学基金(62202457);源图重大基础设施资助

基于深度学习的代码漏洞检测模型因其检测效率高和精度准的优势, 逐步成为检测软件漏洞的重要方法,并在代码托管平台GitHub的代码审计服务中发挥重要作用. 然而, 深度神经网络已被证明容易受到对抗攻击的干扰, 这导致基于深度学习的漏洞检测模型存在遭受攻击、降低检测准确率的风险. 因此, 构建针对漏洞检测模型的对抗攻击不仅可以发掘此类模型的安全缺陷, 而且有助于评估模型的鲁棒性, 进而通过相应的方法提升模型性能. 但现有的面向漏洞检测模型的对抗攻击方法依赖于通用的代码转换工具, 并未提出针对性的代码扰动操作和决策算法, 因此难以生成有效的对抗样本, 且对抗样本的合法性依赖于人工检查. 针对上述问题, 提出了一种面向漏洞检测模型的强化学习式对抗攻击方法. 该方法首先设计了一系列语义约束且漏洞保留的代码扰动操作作为扰动集合; 其次, 将具备漏洞的代码样本作为输入, 利用强化学习模型选取具体的扰动操作序列; 最后, 根据代码样本的语法树节点类型寻找扰动的潜在位置, 进行代码转换, 从而生成对抗样本. 基于SARD和NVD构建了两个实验数据集, 共14 278个代码样本, 并以此训练了4个具备不同特点的漏洞检测模型作为攻击目标. 针对每个目标模型, 训练了一个强化学习网络进行对抗攻击. 结果显示, 该攻击方法导致模型的召回率降低了74.34%, 攻击成功率达到96.71%, 相较基线方法, 攻击成功率平均提升了68.76%. 实验证明了当前的漏洞检测模型存在被攻击的风险, 需要进一步研究提升模型的鲁棒性.

来源：2024年第8期

《软件学报》期刊编辑部

查看软件学报杂志2024年第8期