基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法

    公开(公告)号:CN111079781B

    公开(公告)日:2023-06-23

    申请号:CN201911079625.0

    申请日:2019-11-07

    Abstract: 本发明属于图像识别领域,涉及一种基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法。低秩与稀疏分解的轻量化卷积神经网络的构建过程包括:在结构设计阶段,将权重矩阵分解为低秩矩阵和稀疏矩阵的和,并将低秩矩阵根据秩的大小分解为两个小矩阵的乘积;在训练阶段,在损失函数中添加正则化项对稀疏矩阵进行约束;在后处理阶段,根据稀疏矩阵的能量分布删除不重要参数。优选地,还包括:对低秩与稀疏分解的轻量化卷积神经网络进行微调。本发明结合低秩分解和稀疏压缩方法,从头训练一个轻量化的卷积神经网络,在保留图像识别精度的同时,实现了卷积神经网络的压缩和加速。

    基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法

    公开(公告)号:CN111079781A

    公开(公告)日:2020-04-28

    申请号:CN201911079625.0

    申请日:2019-11-07

    Abstract: 本发明属于图像识别领域,涉及一种基于低秩与稀疏分解的轻量化卷积神经网络图像识别方法。低秩与稀疏分解的轻量化卷积神经网络的构建过程包括:在结构设计阶段,将权重矩阵分解为低秩矩阵和稀疏矩阵的和,并将低秩矩阵根据秩的大小分解为两个小矩阵的乘积;在训练阶段,在损失函数中添加正则化项对稀疏矩阵进行约束;在后处理阶段,根据稀疏矩阵的能量分布删除不重要参数。优选地,还包括:对低秩与稀疏分解的轻量化卷积神经网络进行微调。本发明结合低秩分解和稀疏压缩方法,从头训练一个轻量化的卷积神经网络,在保留图像识别精度的同时,实现了卷积神经网络的压缩和加速。

Patent Agency Ranking