基于最优组合压缩序列的神经网络模型压缩方法和系统
知识产权简介
基于封装实现和兼容性优化的经典模型压缩技术（包括知识蒸馏，剪枝，量化，早期退出），构建了一个可配置组合序列压缩框架。基于拓扑排序和压缩技术结构特性提出的最优压缩序列范式：D（蒸馏）P（剪枝）Q（量化）E（早期退出）通过该框架下多模型，多数据集，遍历组合序列，网格搜索超参数的实验方式被证明。压缩后模型具有较低的精度损失和极高的计算量压缩率和模型压缩率，远胜于单个压缩方法的模型性能。
基于封装实现和兼容性优化的经典模型压缩技术（包括知识蒸馏，剪枝，量化，早期退出），构建了一个可配置组合序列压缩框架。基于拓扑排序和压缩技术结构特性提出的最优压缩序列范式：D（蒸馏）P（剪枝）Q（量化）E（早期退出）通过该框架下多模型，多数据集，遍历组合序列，网格搜索超参数的实验方式被证明。压缩后模型具有较低的精度损失和极高的计算量压缩率和模型压缩率，远胜于单个压缩方法的模型性能。