软件学报

作者：周涛，甘燃，徐东伟，王竟亦，宣琦

单位：周涛，浙江工业大学 网络空间安全研究院, 浙江 杭州 310023;浙江工业大学 信息工程学院, 浙江 杭州 31002311,甘燃，浙江工业大学 网络空间安全研究院, 浙江 杭州 310023;浙江工业大学 信息工程学院, 浙江 杭州 31002302,徐东伟，浙江工业大学 网络空间安全研究院, 浙江 杭州 310023;浙江工业大学 信息工程学院, 浙江 杭州 31002303,王竟亦，浙江大学 控制科学与工程学院, 浙江 杭州 31005804,宣琦，浙江工业大学 网络空间安全研究院, 浙江 杭州 310023;浙江工业大学 信息工程学院, 浙江 杭州 31002305

关键词：深度神经网络;对抗样本检测;人工智能安全;图像分类

基金：浙江省重点研发计划(2022C01018); 国家自然科学基金(U21B2001, 62102359)

深度神经网络是人工智能领域的一项重要技术, 它被广泛应用于各种图像分类任务. 但是, 现有的研究表明深度神经网络存在安全漏洞, 容易受到对抗样本的攻击, 而目前并没有研究针对图像对抗样本检测进行体系化分析. 为了提高深度神经网络的安全性, 针对现有的研究工作, 全面地介绍图像分类领域的对抗样本检测方法. 首先根据检测器的构建方式将检测方法分为有监督检测与无监督检测, 然后根据其检测原理进行子类划分. 最后总结对抗样本检测领域存在的问题, 在泛化性和轻量化等方面提出建议与展望, 旨在为人工智能安全研究提供帮助.

来源：2024年第1期

《软件学报》期刊编辑部

查看软件学报杂志2024年第1期