一种面向侧端部署的去摩尔纹二值化模型训练和推理方法

  • 国民经济行业:信息传输、软件和信息技术服务业/软件和信息技术服务业/软件开发
  • 学科类别:计算机科学技术/人工智能/人工智能理论
  • 权利人:上海交通大学

知识产权简介

本申请提供一种面向侧端部署的去摩尔纹二值化模型压缩和推理方法,压缩方法包括:获取训练数据集;对摩尔纹网络执行二值化压缩处理,在所述二值化网络的前向计算过程中执行缩放校准与高频退化感知的自适应调节;构建损失函数,结合所述训练数据集对所述去摩尔纹网络进行参数优化,得到训练完成的二值化去摩尔纹模型。本申请在保证去摩尔纹恢复效果的前提下显著降低模型参数量与运算开销,解决了现有全精度方案难以侧端实时部署以及通用二值化方案在高频结构退化场景下易出现性能退化的问题,实现了面向侧端设备的高效、稳定、可配置的去摩尔纹模型压缩方法。

转化前景

本发明的有益效果是: 1)因采用了面向去摩尔纹任务的二值化压缩技术,可以实现对网络权重与中间特征的低比特表示,显著减少模型参数存储占用与推理计算开销,降低设备运行过程中的带宽压力、功耗与时延,解决了现有全精度去摩尔纹模型体量大、运算复杂、难以在侧端设备高效部署的技术问题; 2)因采用了高频退化感知的自适应调节技术,可以根据输入特征中的高频能量、方向趋势及统计分布对二值卷积的通道贡献进行动态调节,提高模型对摩尔纹等结构化高频噪声的适应能力,减轻传统通用二值化方法在去摩尔纹任务中容易出现的量化误差放大、纹理细节丢失、伪纹理残留和颜色失真等问题; 3)因采用了轻量化残差对齐与跨通道信息交换技术,可以在编码解码多尺度结构中对通道数或分辨率不匹配的残差分支进行低开销映射与融合,保持残差信息通路的连续性和稳定性,避免使用常规全精度投影所带来的额外参数与算力负担,解决了现有二值网络在多尺度去摩尔纹场景下残差对齐困难、信息传递不稳定、压缩收益受限的技术问题; 综上,本发明因为采用了上述技术1至技术3的结合,可以在保证去摩尔纹恢复效果和训练稳定性的同时,实现模型轻量化、高效化与端侧可部署化,克服了现有技术中全精度方案部署成本高、通用二值化方案任务适配性不足以及多尺度残差对齐开销大的问题。

基本信息

权利人 上海交通大学
知识产权类型 专利
意向合作模式 入股,许可,转让
预估金额
联系合作