-
公开(公告)号：CN108319988B
公开(公告)日：2021-12-24
申请号：CN201710038008.0
申请日：2017-01-18
Abstract: 本发明公开了一种用于手写汉字识别的深度神经网络的加速方法，包括步骤：构建并训练出一个针对脱机手写汉字识别卷积神经网络；根据所需加速的倍数，计算低秩分解后第一个卷积层输出特征图的数目；针对逐层分解的卷积层进行训练；对所述用于手写汉字识别的深度神经网络进行重新训练，从而进行微调；编写所述用于手写汉字识别的深度神经网络的前向代码。本发明破除了传统的基于改进二次判别函数(MQDF)的分类器文字识别方法，采用深度卷积神经网络针对手写文字识别，并且将Batch Normalization和PReLU引入到网络设计之中，显著提高网络的识别率；加速网络收敛，增加网络的拟合能力。
-
公开(公告)号：CN110533157A
公开(公告)日：2019-12-03
申请号：CN201810503382.8
申请日：2018-05-23
Abstract: 本发明涉及一种基于SVD和剪枝用于深度循环神经网络的压缩方法，包括步骤：S1：对需要压缩的循环神经网络进行SVD分解；S2：对SVD分解之后的网络进行再训练，逐步移除冗余的连接；S3：对网络各层剩余连接的权值分别进行K-means聚类；S4：对聚类后的网络进行再训练；S5：对网络权值进行编码保存。本发明结合了SVD和移除冗余网络连接的方法，有效地减少循环神经网络参数的数量，通过进一步的K-means聚类以及对稀疏矩阵的编码存储，大大降低了参数的存储量，在这一系列过程中同时结合了对网络的训练，保证了在网络性能影响不大的情况下实现较大的压缩倍数。
-
公开(公告)号：CN110533043B
公开(公告)日：2022-04-08
申请号：CN201810502952.1
申请日：2018-05-23
IPC: G06V30/22 , G06V30/32 , G06V10/774 , G06N3/04 , G06N3/08
Abstract: 本发明涉及基于SVD的用于手写汉字识别的循环神经网络的加速方法，包括以下步骤：S1：设计并训练出一个用于联机手写汉字的循环神经网络；S2：对参数矩阵进行SVD分解，根据所需加速的倍数，计算分解后的参数矩阵；S3：根据分解得到的参数矩阵对网络进行初始化；S4：对整个网络针对联机手写识别任务重新进行训练，以达到微调的作用；S5：优化前向实现，动态设置前向过程网络的时间节点长度。本发明采用了循环神经网络针对联机手写汉字识别，并且运用了SVD对训练得到的网络进行分解，显著减少了网络的计算复杂度，同时，在前向过程中根据输入数据动态地设置网络的时间节点长度，加速网络的前向运行时间，保证了网络的识别精度。
-
Patent Agency Ranking
公开(公告)号：CN110533043A
公开(公告)日：2019-12-03
申请号：CN201810502952.1
申请日：2018-05-23
Abstract: 本发明涉及基于SVD的用于手写汉字识别的循环神经网络的加速方法，包括以下步骤：S1：设计并训练出一个用于联机手写汉字的循环神经网络；S2：对参数矩阵进行SVD分解，根据所需加速的倍数，计算分解后的参数矩阵；S3：根据分解得到的参数矩阵对网络进行初始化；S4：对整个网络针对联机手写识别任务重新进行训练，以达到微调的作用；S5：优化前向实现，动态设置前向过程网络的时间节点长度。本发明采用了循环神经网络针对联机手写汉字识别，并且运用了SVD对训练得到的网络进行分解，显著减少了网络的计算复杂度，同时，在前向过程中根据输入数据动态地设置网络的时间节点长度，加速网络的前向运行时间，保证了网络的识别精度。
-
公开(公告)号：CN108319988A
公开(公告)日：2018-07-24
申请号：CN201710038008.0
申请日：2017-01-18
Abstract: 本发明公开了一种用于手写汉字识别的深度神经网络的加速方法，包括步骤：构建并训练出一个针对脱机手写汉字识别卷积神经网络；根据所需加速的倍数，计算低秩分解后第一个卷积层输出特征图的数目；针对逐层分解的卷积层进行训练；对所述用于手写汉字识别的深度神经网络进行重新训练，从而进行微调；编写所述用于手写汉字识别的深度神经网络的前向代码。本发明破除了传统的基于改进二次判别函数(MQDF)的分类器文字识别方法，采用深度卷积神经网络针对手写文字识别，并且将Batch Normalization和PReLU引入到网络设计之中，显著提高网络的识别率；加速网络收敛，增加网络的拟合能力。
-
公开(公告)号：CN106919942B
公开(公告)日：2020-06-26
申请号：CN201710037712.4
申请日：2017-01-18
Applicant: 华南理工大学
Abstract: 本发明公开了用于手写汉字识别的深度卷积神经网络的加速压缩方法，包括步骤：构建并训练出一个用于手写汉字识别的深度卷积神经网络；采用低秩分解的策略，对所述深度卷积神经网络的卷积层进行逐层分解训练以减少计算量；采用网络剪枝的策略，去除所述深度卷积神经网络的卷积层以及全连接层的冗余连接以减少存储量；对所述深度卷积神经网络前向代码进行编写。与现有技术相比，本发明同时采用了对卷积层的低秩分解策略和对整个深度卷积神经网络的剪枝压缩策略，从而大幅度的减少深度卷积神经网络的计算量和存储量；有效的将低秩分解策略和对深度卷积神经网络的剪枝策略融合起来，从而达到整个深度卷积神经网络的有效的加速压缩效果。
-
公开(公告)号：CN112784839A
公开(公告)日：2021-05-11
申请号：CN202110146599.X
申请日：2021-02-03
Applicant: 华南理工大学
Abstract: 本发明公开了基于移动端的场景文字检测模型轻量化方法、电子设备及存储介质，方法包括以下步骤：采用场景文字检测模型DB作为基准模型；对DB模型的主干网络、特征融合模块以及预测模块进行轻量化；倒残差模块通道剪枝，通过通道剪枝减小DB模型的计算量以及参数量，利用剪枝通道掩码层取交集方法使倒残差模块短连接两端通道数相匹配，提高通道剪枝的加速压缩比例；量化层回退，通过8比特定点量化减小剪枝后模型的计算量以及参数量，采用基于贪心策略的回退方法提升模型精度。本发明通过对文字检测模型的主干网络、特征融合模块和预测模块进行轻量化设计，解决现有方法计算量与存储量过大问题，使得场景文字模型能够部署到移动端设备上。
-
公开(公告)号：CN106919942A
公开(公告)日：2017-07-04
申请号：CN201710037712.4
申请日：2017-01-18
Applicant: 华南理工大学
Abstract: 本发明公开了用于手写汉字识别的深度卷积神经网络的加速压缩方法，包括步骤：构建并训练出一个用于手写汉字识别的深度卷积神经网络；采用低秩分解的策略，对所述深度卷积神经网络的卷积层进行逐层分解训练以减少计算量；采用网络剪枝的策略，去除所述深度卷积神经网络的卷积层以及全连接层的冗余连接以减少存储量；对所述深度卷积神经网络前向代码进行编写。与现有技术相比，本发明同时采用了对卷积层的低秩分解策略和对整个深度卷积神经网络的剪枝压缩策略，从而大幅度的减少深度卷积神经网络的计算量和存储量；有效的将低秩分解策略和对深度卷积神经网络的剪枝策略融合起来，从而达到整个深度卷积神经网络的有效的加速压缩效果。
-
-
-
-
-
-
-
Search Results
8
records
(took 0.024 seconds)
