软件学报

作者：刘艺璇，陈红，刘宇涵，李翠平

单位：刘艺璇，中国人民大学 信息学院, 北京 100872;数据工程与知识工程教育部重点实验室(中国人民大学), 北京 10087211,陈红，中国人民大学 信息学院, 北京 100872;数据工程与知识工程教育部重点实验室(中国人民大学), 北京 10087202,刘宇涵，中国人民大学 信息学院, 北京 100872;数据工程与知识工程教育部重点实验室(中国人民大学), 北京 10087203,李翠平，中国人民大学 信息学院, 北京 100872;数据工程与知识工程教育部重点实验室(中国人民大学), 北京 10087204

关键词：联邦学习;隐私保护;隐私攻击;差分隐私;同态加密;安全计算

基金：国家重点研发计划（2018YFB1004401）；国家自然科学基金（62072460，62076245，61772537，61772536，62172424）；北京市自然科学基金（4212022）；中国人民大学科学研究基金（中央高校基本科研业务费专项资金资助）（21XNH180）

联邦学习是顺应大数据时代和人工智能技术发展而兴起的一种协调多个参与方共同训练模型的机制.它允许各个参与方将数据保留在本地，在打破数据孤岛的同时保证参与方对数据的控制权.然而联邦学习引入了大量参数交换过程，不仅和集中式训练一样受到模型使用者的威胁，还可能受到来自不可信的参与设备的攻击，因此亟需更强的隐私手段保护各方持有的数据.分析并展望了联邦学习中的隐私保护技术的研究进展和趋势.简要介绍联邦学习的架构和类型，分析联邦学习过程中面临的隐私风险，总结重建、推断两种攻击策略，然后依据联邦学习中的隐私保护机制归纳隐私保护技术，并深入调研应用上述技术的隐私保护算法，从中心、本地、中心与本地结合这3个层面总结现有的保护策略.最后讨论联邦学习隐私保护面临的挑战并展望未来的发展方向.

来源：2022年第3期

《软件学报》期刊编辑部

查看软件学报杂志2022年第3期