• • 下一篇
钟琪1,张淑芬2,张镇博1,李涛1
摘要: 针对现有防御算法无法有效区分联邦学习后门攻击中客户端梯度的差异以及计算开销较大的问题,提出了一种基于梯度特征的联邦学习后门防御算法(GradGuard)。首先,对每个客户端梯度进行归一化与缩放处理,通过缩放本地模型梯度的相对变化,解决了绝对变化较大的良性维度掩盖后门维度的问题。其次,设计了基于余弦相似性的主导梯度聚类算法,寻找具有最低风险概率的小客户端簇,剔除了可能包含后门的恶意梯度。最后,提出了一种自适应梯度裁剪策略,裁剪阈值基于良性客户端维度的L2范数与攻击者的比例进行自适应调整,确保了全局模型的稳定性。实验结果表明,相较于Datadefense算法,GradGuard在四种不同攻击频率的场景下,防御后门攻击时的后门成功率分别降低了1.91、1.36、1.28和0.49个百分点,防御边缘后门攻击时的后门成功率分别降低了8.93、3.34、9.51和0.79个百分点。此外,GradGuard减轻了服务器的计算负担,在EMNIST(Extended Modified National Institute of Standards and Technology)和CIFAR10(Canadian InstituteFor Advanced Research)数据集上,相较于Scope算法的训练时间分别减少了94.5秒和355.02秒,提升了联邦学习系统的效率。
中图分类号: