基于神经网络的图像识别方法、系统、介质及设备
知识产权简介
多层预测的提前退出可以利用神经网络推理过程中连续多层的计算结果(如第1,2,3层的计算结果),综合预测神经网络在该次推理的提前退出点(early exit point)并在该点放置提前退出层(exiting layer)。同时调整处理器电压频率,在保证推理在截止时间前完成的条件下,减小推理过程所消耗的计算量、功耗及能耗。
多层预测的提前退出可以利用神经网络推理过程中连续多层的计算结果(如第1,2,3层的计算结果),综合预测神经网络在该次推理的提前退出点(early exit point)并在该点放置提前退出层(exiting layer)。同时调整处理器电压频率,在保证推理在截止时间前完成的条件下,减小推理过程所消耗的计算量、功耗及能耗。