一种联邦学习后门攻击的分析方法和对应的防御方法
知识产权简介
本发明涉及一种基于表征向量相似度联邦学习后门攻击算法以及其对应的防御算法,属于大数据与人工智能领域。攻击方法主要有表征正则化以及提取器注毒两个特征,即在损失函数中增加其表征向量和目标标签的平均表征向量差距的L2范数,以及只对本地模型的表征提取器部分进行更新。对应的防御方法重点在于在联邦学习的联合训练阶段结束后,先将本地模型的分类器的前一层参数重新初始化,然后固定其他层的参数,使用本地数据对模型进行训练和调整。
本发明涉及一种基于表征向量相似度联邦学习后门攻击算法以及其对应的防御算法,属于大数据与人工智能领域。攻击方法主要有表征正则化以及提取器注毒两个特征,即在损失函数中增加其表征向量和目标标签的平均表征向量差距的L2范数,以及只对本地模型的表征提取器部分进行更新。对应的防御方法重点在于在联邦学习的联合训练阶段结束后,先将本地模型的分类器的前一层参数重新初始化,然后固定其他层的参数,使用本地数据对模型进行训练和调整。