基于生成对抗网络的non-IID联邦学习模型后门鲁棒性评估方法

  • 国民经济行业:信息传输、软件和信息技术服务业/软件和信息技术服务业/数据处理和存储服务
  • 学科类别:信息科学与系统科学/信息科学与系统科学基础学科/信息科学与系统科学基础学科其他学科
  • 权利人:上海交通大学

知识产权简介

本发明提供了基于生成对抗网络的non-IID联邦学习模型后门鲁棒性评估方法,包括步骤1:选择联邦学习中某一客户端作为测试节点,将接收到的全局模型作为判别器,并设计生成器组成生成对抗网络模型;步骤2:在每一轮全局训练中,根据接收到的全局模型训练生成器,并利用当前生成器生成假样本对全局模型进行预投毒操作,直至生成器训练完毕;步骤3:利用训练完毕的生成器在本地生成补充数据集以模拟真实数据分布;步骤4:根据指定的源类别与目标类别,进行触发器优化以及后门训练,并将恶意更新上传至服务器;步骤5:调节联邦学习数据的non-IID程度以及后门攻击所指定的源类别数,观测对联邦学习全局模型后门攻击的鲁棒性。本发明提出的基于生成对抗网络的non-IID联邦学习模型后门鲁棒性评估方法,首次在non-IID联邦学习场景下引入后门攻击,通过观测不同的数据异构性程度以及后门攻击范围下客户端的后门投毒对全局模型的影响,研究non-IID联邦学习下后门攻击的性能,旨在提高对联邦学习中后门攻击威胁性的认知,以及为如何构建相应的防御机制提供新思路。

基本信息

权利人 上海交通大学
知识产权类型 专利
意向合作模式
预估金额
联系合作