软件学报

作者：纪守领，杜天宇，李进锋，沈超，李博

单位：纪守领，浙江大学 网络空间安全研究中心 计算机科学与技术学院, 浙江 杭州 31002711,杜天宇，浙江大学 网络空间安全研究中心 计算机科学与技术学院, 浙江 杭州 31002702,李进锋，浙江大学 网络空间安全研究中心 计算机科学与技术学院, 浙江 杭州 31002703,沈超，智能网络与网络安全教育部重点实验室 电子与信息学部(西安交通大学), 陕西 西安 71004904,李博，Department of Computer Science, University of Illinois at Urbana-Champaign, Urbana-Champaign, IL 61822, USA05

关键词：机器学习;投毒攻击;对抗样例;模型隐私;人工智能安全

基金：国家重点研发计划（2018YFB0804102）；浙江省自然科学基金（LR19F020003）；浙江省科技计划（2019C01055）；国家自然科学基金（61772466，U1936215，U1836202，61822309，61773310，U1736205）

在大数据时代下，深度学习、强化学习以及分布式学习等理论和技术取得的突破性进展，为机器学习提供了数据和算法层面强有力的支撑，同时促进了机器学习的规模化和产业化发展.然而，尽管机器学习模型在现实应用中有着出色的表现，但其本身仍然面临着诸多的安全威胁.机器学习在数据层、模型层以及应用层面临的安全和隐私威胁呈现出多样性、隐蔽性和动态演化的特点.机器学习的安全和隐私问题吸引了学术界和工业界的广泛关注，一大批学者分别从攻击和防御的角度对模型的安全和隐私问题进行了深入的研究，并且提出了一系列的攻防方法.回顾了机器学习的安全和隐私问题，并对现有的研究工作进行了系统的总结和科学的归纳，同时明确了当前研究的优势和不足.最后探讨了机器学习模型安全与隐私保护研究当前所面临的挑战以及未来潜在的研究方向，旨在为后续学者进一步推动机器学习模型安全与隐私保护研究的发展和应用提供指导.

来源：2021年第1期

《软件学报》期刊编辑部

查看软件学报杂志2021年第1期