一种基于注意力机制的卷积神经网络构建方法及应用

    公开(公告)号:CN108734290A

    公开(公告)日:2018-11-02

    申请号:CN201810468476.6

    申请日:2018-05-16

    Abstract: 本发明公开一种基于注意力机制的卷积神经网络构建方法及应用,包括用于对图像进行预处理的基本卷积操作层,用于提取图像浅层显著特征的注意力机制层1,用于提取图像深层显著特征的注意力机制层2,用于提取图像最深层显著特征的注意力机制层3,用于将注意力机制层3中的2维输出数据捋平为1维的两个全连接层,以及SoftMax分类器。本发明将注意力机制融合进卷积神经网络中,有效的促进了卷积神经网络提取有效的信息从而提高网络性能,提升网络收敛效率和精度。

    一种基于线性解码器和插值采样优化卷积神经网络的方法

    公开(公告)号:CN107609638A

    公开(公告)日:2018-01-19

    申请号:CN201710946508.4

    申请日:2017-10-12

    Abstract: 本发明属于图像识别领域,具体涉及一种基于线性解码器和插值采样优化卷积神经网络的方法。本发明构建的卷积神经网络,包括输入层、卷积层、池化层、全连接网络层及输出层,首先利用卷积线性编码器训练获得权值,并以此作为卷积神经网络的初始值,然后将卷积层获得的特征图分别进行多重插值采样池化,经过前向传播和反向调节,最终获得每一层中各个神经元的局部梯度以及每一层卷积层卷积核的权值。通过与现有的方法进行对比实验,实验结果表明:利用本发明方法构建的卷积神经网络对图像进行分类时,具有收敛速度更快,精确度更高的优点。

    一种基于MobileNets优化多尺度学习网络的方法

    公开(公告)号:CN108304920A

    公开(公告)日:2018-07-20

    申请号:CN201810108120.1

    申请日:2018-02-02

    Abstract: 本发明涉及一种基于MobileNets优化多尺度学习网络的方法,本发明所述多尺度学习网络包括4部分,前3部分为相同的可分离卷积层,每个可分离卷积层后面连接batchnorm和ReLU,再连接池化层,最终与第4部分的全连接层和输出层连接,其中可分离卷积层包括3组卷积操作,具体网络结构为,第一组以3*3的深度卷积进行卷积操作,第二组连续用两个3*3的深度卷积进行卷积操作,然后再将第一组和第二组的输出进行加和操作,继续用1*1的点卷积进行卷积操作;第三组直接用1*1的点卷积进行卷积操作,接着把第一、二组和第三组的输出进行合并操作;通过实验对比发现,本发明构建的网络结构实验参数少,精度高,三组可分离卷积层结构稳定,实验效果最为理想。

    结合注意机制与深度可分解卷积的卷积神经网络优化方法

    公开(公告)号:CN108304916A

    公开(公告)日:2018-07-20

    申请号:CN201810023210.0

    申请日:2018-01-10

    Abstract: 本发明公开了一种结合注意机制与深度可分解卷积的卷积神经网络优化方法,是针对于手机等嵌入式设备提出的一种轻量级的神经网络优化方法。注意机制起源于人的大脑当中的注意力机制,人在接受信息时会将注意力集中到所需要的地方,加强对所需信息的提取,从而加快信息提取的效率。而我们知道深度可分解卷积网络本身就是用于移动和嵌入式视觉应用的一种网络结构,具有轻量级,低延迟,且精度尚可接受等特点。本发明将注意机制与深度可分解卷积两者有效结合,在低延迟的前提下,对特征提取加以改进,提高网络的精确度。

    一种基于K‑means与深度学习的图像分类算法

    公开(公告)号:CN106845528A

    公开(公告)日:2017-06-13

    申请号:CN201611259889.0

    申请日:2016-12-30

    Abstract: 本发明公开了一种基于K‑means与深度学习的图像分类算法,包括步骤:1)将无标签图像作为输入图像,并随机抽取图像块构成大小相同的无标签图像集;2)采用K‑means算法提取一次最佳聚类中心;3)构建特征映射函数,提取无标签图像集的图像特征;4)进行池化操作与归一化处理;5)采用K‑means算法提取二次最佳聚类中心,并采用卷积操作,提取最终图像特征,对最终图像特征进行标准化处理;6)通过分拣器对经过标准化处理的最终图像特征进行分类。本发明具有简单、高效、训练参数少等优点,对于海量高维图像的分类具有很好的效果,且对输入图像进行预处理,达到改善图像分类效果,提高分类精度的效果。

    一种基于注意力机制的卷积神经网络构建方法及应用

    公开(公告)号:CN108734290B

    公开(公告)日:2021-05-18

    申请号:CN201810468476.6

    申请日:2018-05-16

    Abstract: 本发明公开一种基于注意力机制的卷积神经网络构建方法及应用,包括用于对图像进行预处理的基本卷积操作层,用于提取图像浅层显著特征的注意力机制层1,用于提取图像深层显著特征的注意力机制层2,用于提取图像最深层显著特征的注意力机制层3,用于将注意力机制层3中的2维输出数据捋平为1维的两个全连接层,以及SoftMax分类器。本发明将注意力机制融合进卷积神经网络中,有效的促进了卷积神经网络提取有效的信息从而提高网络性能,提升网络收敛效率和精度。

    结合注意机制与深度可分解卷积的卷积神经网络优化方法

    公开(公告)号:CN108304916B

    公开(公告)日:2020-06-09

    申请号:CN201810023210.0

    申请日:2018-01-10

    Abstract: 本发明公开了一种结合注意机制与深度可分解卷积的卷积神经网络优化方法,是针对于手机等嵌入式设备提出的一种轻量级的神经网络优化方法。注意机制起源于人的大脑当中的注意力机制,人在接受信息时会将注意力集中到所需要的地方,加强对所需信息的提取,从而加快信息提取的效率。而我们知道深度可分解卷积网络本身就是用于移动和嵌入式视觉应用的一种网络结构,具有轻量级,低延迟,且精度尚可接受等特点。本发明将注意机制与深度可分解卷积两者有效结合,在低延迟的前提下,对特征提取加以改进,提高网络的精确度。

    一种基于空间金字塔的卷积神经网络的图像分类方法

    公开(公告)号:CN106991440B

    公开(公告)日:2019-12-24

    申请号:CN201710198700.X

    申请日:2017-03-29

    Abstract: 本发明公开了一种基于空间金字塔的卷积神经网络的图像分类算法,借鉴了空间金字塔先提取全局特征,然后每个金字塔水平画以网格的方式获取局部特征组成空间金字塔的整体特征。构造了一个新的卷积神经网络模型,此模型前半部分为传统的卷积网络,有3个卷积层2个池化层;之后将这3个卷积层以画网格的方式进行均匀池化获得各自特征图。每层特征图按列连成一个特征向量,然后将这3个特征向量顺序连接成为一个总的特征向量。这个总的特征向量即涵盖了经典卷积层的特征,同时也添加了前面卷积层的特征,避免了重要特征的遗失,同时网格大小调整了各卷积层特征图的权重,有助于提高网络的识别效率。

    一种基于深度学习网络的图像分类方法

    公开(公告)号:CN108647723A

    公开(公告)日:2018-10-12

    申请号:CN201810448134.8

    申请日:2018-05-11

    Abstract: 本发明公开了一种基于深度学习网络的图像分类方法,首先建立与ResNext网络相同的提取特征部分,这部分通过堆叠卷积快来实现。根据参数设置,将每个参数相同的卷积块分为一节,并对每节部分进行同样大小卷积块的删减;然后在建立好网络的三节部分中提取每一部分网络得到的特征图,处理后获得最后的特征列向量;接着将最后的特征列向量与softmax分类器连接,完整整个网络;整个网络用已知数据库进行调节,保存调节好后的权值;最后将网络运用到新数据库时,用保存好的权值迁移学习,然后进行微调。本发明提出了一种新的卷积神经网络算法结构,并降低了参数储存量,缩短了网络训练时间,同时提高了识别效率。

    一种基于深度学习网络的图像分类方法

    公开(公告)号:CN108647723B

    公开(公告)日:2020-10-13

    申请号:CN201810448134.8

    申请日:2018-05-11

    Abstract: 本发明公开了一种基于深度学习网络的图像分类方法,首先建立与ResNext网络相同的提取特征部分,这部分通过堆叠卷积快来实现。根据参数设置,将每个参数相同的卷积块分为一节,并对每节部分进行同样大小卷积块的删减;然后在建立好网络的三节部分中提取每一部分网络得到的特征图,处理后获得最后的特征列向量;接着将最后的特征列向量与softmax分类器连接,完整整个网络;整个网络用已知数据库进行调节,保存调节好后的权值;最后将网络运用到新数据库时,用保存好的权值迁移学习,然后进行微调。本发明提出了一种新的卷积神经网络算法结构,并降低了参数储存量,缩短了网络训练时间,同时提高了识别效率。

Patent Agency Ranking