国内刊号:11-2560/TP
国际刊号:1000-9825
发布日期:
作者:张少波,张激勇,朱更明,龙赛琴,李哲涛
单位:张少波,湖南科技大学 计算机科学与工程学院, 湖南 湘潭 41120111,张激勇,湖南科技大学 计算机科学与工程学院, 湖南 湘潭 41120102,朱更明,湖南科技大学 计算机科学与工程学院, 湖南 湘潭 41120103,龙赛琴,暨南大学 信息科学技术学院, 广东 广州 51063204,李哲涛,暨南大学 信息科学技术学院, 广东 广州 51063205
关键词:隐私保护;个性化联邦学习;差分隐私;Bregman散度
基金:国家重点研发计划(2021YFB3101201); 国家自然科学基金(62272162, 62172159, 62172350, 62032020); 教育部人文社会科学研究规划基金(22YJAZH155); 湖南省自然科学基金(2023JJ30267)
联邦学习因能解决数据孤岛问题而被广泛关注, 但也存在用户隐私泄露风险和非独立同分布数据下模型异构导致性能下降的问题. 针对该问题, 提出基于Bregman散度和差分隐私的个性化联邦学习方法(FedBDP). 所提方法采用Bregman散度衡量本地参数与全局参数的差异, 并将其作为正则化项更新损失函数, 以减小模型差异来提升模型准确率. 同时, 采用自适应差分隐私技术对本地模型参数进行扰动, 通过定义衰减系数动态调整每轮差分隐私噪声的大小, 以合理分配隐私噪声大小并提升模型可用性. 理论分析表明FedBDP在强凸和非凸光滑函数下满足收敛条件. 实验结果验证该方法在满足差分隐私的前提下, FedBDP模型在MNIST和CIFAR10数据集下能够保证模型准确率.
来源:2024年第11期
《软件学报》期刊编辑部