一种基于多头自注意力模块的遥感图像分类系统及方法

    公开(公告)号:CN113344070A

    公开(公告)日:2021-09-03

    申请号:CN202110609315.6

    申请日:2021-06-01

    Abstract: 本发明公开了一种基于多头自注意力模块的遥感图像分类系统及方法,分类模型的框架网络主干采用的是RestNet50卷积神经网络,分类模型将RestNet50卷积神经网络最后三个瓶颈层模块替换为多头自注意力模块;模型包括:缩放点积注意力模块,用于将输入分类模型的检测图像参数进行运缩放点积注意力处理;多头自注意力模块,用于感知检测图像中可识别度最高的区域;第一归一化及残差连接模块、第二归一化及残差连接模块,用于保持检测图像参数在输入分类模型后与输入分类模型前维度上的一致,降低在分类模型网络中发生梯度消失的可能;全连接模块,用于对检测图像进行特征提取。

    一种基于多头自注意力模块的遥感图像分类系统及方法

    公开(公告)号:CN113344070B

    公开(公告)日:2024-12-13

    申请号:CN202110609315.6

    申请日:2021-06-01

    Abstract: 本发明公开了一种基于多头自注意力模块的遥感图像分类系统及方法,分类模型的框架网络主干采用的是RestNet50卷积神经网络,分类模型将RestNet50卷积神经网络最后三个瓶颈层模块替换为多头自注意力模块;模型包括:缩放点积注意力模块,用于将输入分类模型的检测图像参数进行运缩放点积注意力处理;多头自注意力模块,用于感知检测图像中可识别度最高的区域;第一归一化及残差连接模块、第二归一化及残差连接模块,用于保持检测图像参数在输入分类模型后与输入分类模型前维度上的一致,降低在分类模型网络中发生梯度消失的可能;全连接模块,用于对检测图像进行特征提取。

Patent Agency Ranking