软件学报

作者：张瑞麟，杜晋华，尹浩

单位：张瑞麟，清华大学 计算机科学与技术系, 北京 10008411,杜晋华，清华大学 计算机科学与技术系, 北京 10008402,尹浩，清华大学 北京信息科学与技术国家研究中心, 北京 10008403

关键词：跨设备联邦学习;客户端选择;组合优化;效用理论

基金：国家重点研发计划(2022YFB2702801); 国家自然科学基金(92067206, 61972222, 62102217)

联邦学习是一种新型的分布式机器学习范式, 它在满足用户隐私和数据保密性要求的前提下, 充分利用众多分散客户端的计算能力及其本地数据联合训练机器学习模型. 在跨设备联邦学习场景下, 客户端通常由数千甚至万级别的移动设备或端侧设备组成, 由于通信和计算成本的限制, 聚合服务器在每个训练轮次中仅选择少量客户端加入训练. 几种被广泛应用的联邦优化算法均采用完全随机的客户端选择算法, 但这被证明有着很大的优化空间. 近年来, 如何高效可靠地从海量异构客户端中选择合适的集合参与训练, 以优化联邦学习协议的资源消耗和模型性能被广泛研究, 但仍没有文献对这一关键问题进行综合调研. 需要对跨设备联邦学习的客户端选择算法研究进行全面调研. 具体地, 形式化描述客户端选择问题, 然后给出对选择算法的分类并逐一深入讨论分析. 最后, 讨论客户端选择算法的一些未来研究方向.

来源：2024年第12期

《软件学报》期刊编辑部

查看软件学报杂志2024年第12期