软件学报

作者：刘睿瑄,陈红,郭若杨,赵丹,梁文娟,李翠平

单位：刘睿瑄，数据工程与知识工程教育部重点实验室(中国人民大学), 北京 100872;中国人民大学 信息学院, 北京 1008711,陈红，数据工程与知识工程教育部重点实验室(中国人民大学), 北京 100872;中国人民大学 信息学院, 北京 1008702,郭若杨，数据工程与知识工程教育部重点实验室(中国人民大学), 北京 100872;中国人民大学 信息学院, 北京 1008703,赵丹，数据工程与知识工程教育部重点实验室(中国人民大学), 北京 100872;中国人民大学 信息学院, 北京 1008704,梁文娟，数据工程与知识工程教育部重点实验室(中国人民大学), 北京 100872;中国人民大学 信息学院, 北京 1008705,李翠平，数据工程与知识工程教育部重点实验室(中国人民大学), 北京 100872;中国人民大学 信息学院, 北京 1008706

关键词：数据管理;机器学习;隐私保护;隐私攻击

基金：国家重点研发计划（2018YFB1004401）；国家自然科学基金（61532021，61772537，61772536，61702522）

大数据时代丰富的信息来源促进了机器学习技术的蓬勃发展，然而机器学习模型的训练集在数据采集、模型训练等各个环节中存在的隐私泄露风险，为人工智能环境下的数据管理提出了重大挑战.传统数据管理中的隐私保护方法无法满足机器学习中多个环节、多种场景下的隐私保护要求.分析并展望了机器学习技术中隐私攻击与防御的研究进展和趋势.首先介绍了机器学习中隐私泄露的场景和隐私攻击的敌手模型，并根据攻击者策略分类梳理了机器学习中隐私攻击的最新研究；介绍了当前机器学习隐私保护的主流基础技术，进一步分析了各技术在保护机器学习训练集隐私时面临的关键问题，重点分类总结了5种防御策略以及具体防御机制；最后展望了机器学习技术中隐私防御机制的未来方向和挑战.

来源：2020年第3期

《软件学报》期刊编辑部

查看软件学报杂志2020年第3期