软件学报

作者：李欣姣，吴国伟，姚琳，张伟哲，张宾

单位：李欣姣，大连理工大学 软件学院, 辽宁 大连 116620;辽宁省泛在网络与服务软件重点实验室(大连理工大学), 辽宁 大连 11662011,吴国伟，大连理工大学 软件学院, 辽宁 大连 116620;辽宁省泛在网络与服务软件重点实验室(大连理工大学), 辽宁 大连 11662002,姚琳，大连理工大学 软件学院, 辽宁 大连 116620;鹏城实验室 网络空间安全中心, 广东 深圳 51805503,张伟哲，哈尔滨工业大学 计算机科学与技术学院, 黑龙江 哈尔滨 15000104,张宾，鹏城实验室 网络空间安全中心, 广东 深圳 51805505

关键词：机器学习;安全和隐私;攻击分类;防御机制

基金：国家自然科学基金（61872053）；中央高校基本科研业务费专项资金（DUT19GJ204）；广东省重点领域研发计划（2019B010136001）；广东省重点科技计划（LZC0023）

机器学习的应用遍及人工智能的各个领域，但因存储和传输安全问题以及机器学习算法本身的缺陷，机器学习面临多种面向安全和隐私的攻击.基于攻击发生的位置和时序对机器学习中的安全和隐私攻击进行分类，分析和总结了数据投毒攻击、对抗样本攻击、数据窃取攻击和询问攻击等产生的原因和攻击方法，并介绍和分析了现有的安全防御机制.最后，展望了安全机器学习未来的研究挑战和方向.

来源：2021年第2期

《软件学报》期刊编辑部

查看软件学报杂志2021年第2期