一种联邦学习后门攻击的分析方法和对应的防御方法

  • 国民经济行业:信息传输、软件和信息技术服务业/软件和信息技术服务业/软件开发
  • 学科类别:计算机科学技术/计算机软件/计算机软件其他学科
  • 权利人:上海交通大学

知识产权简介

本发明涉及一种基于表征向量相似度联邦学习后门攻击算法以及其对应的防御算法,属于大数据与人工智能领域。攻击方法主要有表征正则化以及提取器注毒两个特征,即在损失函数中增加其表征向量和目标标签的平均表征向量差距的L2范数,以及只对本地模型的表征提取器部分进行更新。对应的防御方法重点在于在联邦学习的联合训练阶段结束后,先将本地模型的分类器的前一层参数重新初始化,然后固定其他层的参数,使用本地数据对模型进行训练和调整。

基本信息

权利人 上海交通大学
知识产权类型 专利
意向合作模式
预估金额
联系合作