-
公开(公告)号:CN114638283B
公开(公告)日:2024-08-16
申请号:CN202210130608.0
申请日:2022-02-11
Applicant: 华南理工大学 , 中山市华南理工大学现代产业技术研究院
IPC: G06V10/82 , G06N3/0464 , G06N3/084 , G06V10/764
Abstract: 本发明公开了一种基于张量优化空间的正交卷积神经网络图像识别方法。所述方法包括以下步骤:对原始图像进行预处理,得到预处理后的图像;对卷积神经网络的权重参数施加正交化约束,进行优化训练,得到优化训练后的正交卷积神经网络;优化训练后的正交卷积神经网络对预处理后的图像进行图像识别。本发明使用基于张量结构的正交化方法可以保留了张量的空间结构信息,且优化空间比矩阵正交更小,可以有效地提高图像识别精度。本发明所涉及的优化方法适用于常用的卷积神经网络,不需要修改网络结构,不增加模型参数。
-
公开(公告)号:CN114638283A
公开(公告)日:2022-06-17
申请号:CN202210130608.0
申请日:2022-02-11
Applicant: 华南理工大学 , 中山市华南理工大学现代产业技术研究院
IPC: G06K9/62 , G06N3/04 , G06N3/08 , G06V10/764 , G06V10/82
Abstract: 本发明公开了一种基于张量优化空间的正交卷积神经网络图像识别方法。所述方法包括以下步骤:对原始图像进行预处理,得到预处理后的图像;对卷积神经网络的权重参数施加正交化约束,进行优化训练,得到优化训练后的正交卷积神经网络;优化训练后的正交卷积神经网络对预处理后的图像进行图像识别。本发明使用基于张量结构的正交化方法可以保留了张量的空间结构信息,且优化空间比矩阵正交更小,可以有效地提高图像识别精度。本发明所涉及的优化方法适用于常用的卷积神经网络,不需要修改网络结构,不增加模型参数。
-
公开(公告)号:CN111079781B
公开(公告)日:2023-06-23
申请号:CN201911079625.0
申请日:2019-11-07
Applicant: 华南理工大学
IPC: G06V10/774 , G06V10/82 , G06N3/0464 , G06N3/082
Abstract: 本发明属于图像识别领域,涉及一种基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法。低秩与稀疏分解的轻量化卷积神经网络的构建过程包括:在结构设计阶段,将权重矩阵分解为低秩矩阵和稀疏矩阵的和,并将低秩矩阵根据秩的大小分解为两个小矩阵的乘积;在训练阶段,在损失函数中添加正则化项对稀疏矩阵进行约束;在后处理阶段,根据稀疏矩阵的能量分布删除不重要参数。优选地,还包括:对低秩与稀疏分解的轻量化卷积神经网络进行微调。本发明结合低秩分解和稀疏压缩方法,从头训练一个轻量化的卷积神经网络,在保留图像识别精度的同时,实现了卷积神经网络的压缩和加速。
-
公开(公告)号:CN111079781A
公开(公告)日:2020-04-28
申请号:CN201911079625.0
申请日:2019-11-07
Applicant: 华南理工大学
Abstract: 本发明属于图像识别领域,涉及一种基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法。低秩与稀疏分解的轻量化卷积神经网络的构建过程包括:在结构设计阶段,将权重矩阵分解为低秩矩阵和稀疏矩阵的和,并将低秩矩阵根据秩的大小分解为两个小矩阵的乘积;在训练阶段,在损失函数中添加正则化项对稀疏矩阵进行约束;在后处理阶段,根据稀疏矩阵的能量分布删除不重要参数。优选地,还包括:对低秩与稀疏分解的轻量化卷积神经网络进行微调。本发明结合低秩分解和稀疏压缩方法,从头训练一个轻量化的卷积神经网络,在保留图像识别精度的同时,实现了卷积神经网络的压缩和加速。
-
-
-