边缘设备协作的熵度量和散度解耦高效联邦蒸馏系统及方法
知识产权简介
本申请设计一种边缘设备协作的熵度量和散度解耦高效联邦蒸馏系统,主要包括 两部分:一,使用熵度量取代平均方法;二,对蒸馏法进行解耦。最终达到网络收敛 速度的提升和单轮通信开销的减少,并且维持最终模型精度,保证该系统在边缘设备 上的高效应用。
转化前景
本发明属于人工智能领域,针对联邦学习在边缘设备上的应用短板设计一种新颖的高效联邦蒸馏系统,相比Google的FedAvg或Harvard的FedMD,该系统设计的算法拥有更快的模型收敛速度,能够减少通信轮数,并且压缩单轮通信比特数,有效减少设备间通信开销,适用边缘设备协作学习,在车载物联、智能家居、可交互穿戴设备等领域或者边缘计算云平台、区块链智能合约部署上更具优势。