基于教师预测优化的DETR知识蒸馏方法及目标检测方法

  • 国民经济行业:信息传输、软件和信息技术服务业/软件和信息技术服务业/软件开发
  • 学科类别:计算机科学技术/人工智能/计算机神经网络
  • 权利人:上海交通大学

知识产权简介

本申请提供一种基于教师预测优化的DETR知识蒸馏方法,蒸馏方法包括: 将训练图像输入教师 DETR模型和学生DETR模型,获取各解码阶段的分类及边界框预测结果;在教师DETR模型中,将各阶段预测结果与真实标注匹配,划分正样本预测和负样本预测; 针对当前解码阶段的教师预测结果,从历史解码阶段中筛选候选预测,基于正样本预测执行预测校正操作,基于负样本预测执行预测抑制操作,生成优化后的教师预测结果;基于优化后的教师预测结果构建蒸馏损失,引导学生DETR模型完成训练。本申请蒸馏监督不再局限于教师模型当前阶段的单一输出,而是能够利用教师模型在多阶段推理过程中逐步形成的检测能力,提成监督信号的可靠性与一致性。

转化前景

本申请提供的基于教师预测优化的DETR知识蒸馏方法,提出面向多阶段解码特性的教师预测优化机制,使蒸馏过程能够更加充分、稳定的利用教师模型在整个解码演化过程中的更优预测信息。通过该机制,蒸馏监督不再局限于教师模型某一时刻的瞬间输出,而是能够反映教师模型在多阶段推理过程中逐步形成的检测能力,提出监督信号的可靠性与一致性。因此,具有良好的应用前景。

基本信息

权利人 上海交通大学
知识产权类型 专利
意向合作模式
预估金额
联系合作