软件学报

作者：刘颖，杨鹏飞，张立军，吴志林，冯元

单位：刘颖，计算机科学国家重点实验室 (中国科学院 软件研究所), 北京 100190;中国科学院大学, 北京 10004911,杨鹏飞，计算机科学国家重点实验室 (中国科学院 软件研究所), 北京 100190;琶洲实验室, 广东 广州 51032002,张立军，计算机科学国家重点实验室 (中国科学院 软件研究所), 北京 100190;中国科学院大学, 北京 10004903,吴志林，计算机科学国家重点实验室 (中国科学院 软件研究所), 北京 100190;中国科学院大学, 北京 10004904,冯元，University of Technology Sydney, Sydney 2007, Australia05

关键词：神经网络;鲁棒性;人工智能安全;智能系统;形式化方法

基金：中国科学院青年科学基金（YSBR-040）

随着智能时代的到来，部署了深度神经网络的智能系统应用已经渗透到了人类生活的各个方面.然而，由于神经网络具有黑盒特性和规模庞大的特点，其预测结果难以让人完全信服，当应用于自动驾驶等安全攸关的领域时，如何保证其安全性仍然是学术界和工业界面临的巨大挑战.为此，学术界针对神经网络一种特殊的安全性——鲁棒性展开了研究，并提出了很多鲁棒性的分析和验证方法.目前为止，验证前馈神经网络的方法包括精确验证方法和近似验证方法，已经发展得比较繁荣；而对于其他类型的网络，如循环神经网络的鲁棒性验证研究还处于起步阶段.回顾深度神经网络的发展以及部署到日常生活中面临的挑战；详尽地调研前馈神经网络和循环神经网络的鲁棒性验证方法，并对这些验证方法间的内在联系进行分析和比较；调研循环神经网络在现实应用场景中的安全性验证方法；阐明神经网络鲁棒性验证领域未来可以深入研究的方向.

来源：2023年第7期

《软件学报》期刊编辑部

查看软件学报杂志2023年第7期