公开(公告)号：CN115631396A

公开(公告)日：2023-01-20

申请号：CN202211299901.6

申请日：2022-10-24

Applicant: 北京建筑大学

Inventor： 马宇轩 ,  冯剑波 ,  王衍学 ,  李孟

IPC: G06V10/82 ,  G06V10/764 ,  G06N3/0464 ,  G06N3/047 ,  G06N3/048 ,  G06N3/082 ,  G06N3/096

Abstract: 本发明公开了一种基于知识蒸馏的YOLOv5目标检测方法包括：输入图像数据集至YOLOv5目标检测模型，在前向传播过程中定义教师网络和学生网络；利用YOLOv5的预训练权重对样本图像进行训练；基于CA注意力机制构建YOLOv5知识蒸馏模型并加入超参数蒸馏温度和蒸馏损失函数；基于所述知识蒸馏模型使用教师网络对学生网络进行知识蒸馏训练。本发明在构建YOLOv5蒸馏层时通过引入CA注意力机制的特征实现了基于图像位置信息获取带有注意力机制的图像，进而提升了网络性能；通过在Softmax函数的基础上引入蒸馏温度让网络中的暗知识浮现，便于让网络更好的学习，同时增强了网络的泛化能力；本发明通过利用构建的知识蒸馏模型实现对检测模型的压缩，进而提升目标检测的性能。