软件学报

作者：乐紫莹，陈珂，寿黎但，骆歆远，陈刚

单位：乐紫莹，浙江大学, 浙江 杭州 310027;区块链与数据安全全国重点实验室(浙江大学), 浙江 杭州 310027;浙江省大数据智能计算重点实验室(浙江大学), 浙江 杭州 31002711,陈珂，浙江大学, 浙江 杭州 310027;区块链与数据安全全国重点实验室(浙江大学), 浙江 杭州 310027;浙江省大数据智能计算重点实验室(浙江大学), 浙江 杭州 31002702,寿黎但，浙江大学, 浙江 杭州 310027;区块链与数据安全全国重点实验室(浙江大学), 浙江 杭州 310027;浙江省大数据智能计算重点实验室(浙江大学), 浙江 杭州 31002703,骆歆远，浙江大学, 浙江 杭州 310027;区块链与数据安全全国重点实验室(浙江大学), 浙江 杭州 310027;浙江省大数据智能计算重点实验室(浙江大学), 浙江 杭州 31002704,陈刚，浙江大学, 浙江 杭州 310027;区块链与数据安全全国重点实验室(浙江大学), 浙江 杭州 310027;浙江省大数据智能计算重点实验室(浙江大学), 浙江 杭州 31002705

关键词：联邦学习;激励欺诈攻击;梯度放大攻击;恶意参与者检测;安全保护

基金：浙江省“尖兵”计划(2024C01021)

在联邦学习领域, 激励机制是吸引高质量数据持有者参与联邦学习并获得更优模型的重要工具. 然而, 现有的联邦学习研究鲜有考虑到参与者可能滥用激励机制的情况, 也就是他们可能会通过操纵上传的本地模型信息来获取更多的奖励. 针对这一问题进行了深入研究. 首先, 明确定义联邦学习中的参与者激励欺诈攻击问题, 并引入激励成本比来评估不同激励欺诈攻击方法的效果以及防御方法的有效性. 其次, 提出一种名为“梯度放大攻击(gradient scale-up attack)”的攻击方法, 专注于对模型梯度进行激励欺诈. 这种攻击方法计算出相应的放大因子, 并利用这些因子来提高本地模型梯度的贡献, 以获取更多奖励. 最后, 提出一种高效的防御方法, 通过检验模型梯度的二范数值来识别欺诈者, 从而有效地防止梯度放大攻击. 通过对MNIST等数据集进行详尽地分析和实验验证, 研究结果表明, 所提出的攻击方法能够显著提高奖励, 而相应的防御方法能够有效地抵制欺诈参与者的攻击行为.

来源：2025年第5期

《软件学报》期刊编辑部

查看软件学报杂志2025年第5期