-
公开(公告)号：CN110659734B
公开(公告)日：2022-12-23
申请号：CN201910931215.8
申请日：2019-09-27
Applicant: 中国科学院半导体研究所
Abstract: 一种深度可分离卷积结构的低比特量化方法，该方法包括：选择量化系数对训练结束的深度可分离卷积神经网络的权重和特征图数据进行均匀量化；对训练结束的深度可分离卷积神经网络中的权重进行逐通道量化；利用特征图数据对深度可分离卷积神经网络进行逐层量化；基于训练集在训练结束的深度可分离卷积神经网络中进行前向运算，并对批量归一化层中的滑动平均参数进行更新；将更新后的批量归一化层中的滑动平均参数和可学习的参数融合到网络权重量化系数和偏置中，实现深度可分离卷积结构的低比特量化。本发明提供的深度可分离卷积结构的低比特量化方法无需任何有标签数据参与、计算简单且与传统方法相比提高了低比特量化后的准确率。
-
公开(公告)号：CN110969165A
公开(公告)日：2020-04-07
申请号：CN201911210562.8
申请日：2019-11-28
Applicant: 中国科学院半导体研究所
Abstract: 一种手写字符识别方法，应用于计算机技术领域，包括：获取待识别的手写字符图片，生成与该待识别的手写字符图片字符相同的模板字符图片，将该模板字符图片输入给深度匹配神经网络，以使该深度匹配神经网络提取该模板字符图片的模板字符特征，将该待识别的手写字符图片输入给该深度匹配神经网络，以使深度匹配神经网络根据模板字符特征识别待识别的手写字符图片。本申请还公开了一种手写字符识别装置、电子设备及存储介质，可有效识别手写字符。
-
公开(公告)号：CN107579816B
公开(公告)日：2020-05-19
申请号：CN201710793177.5
申请日：2017-09-06
Applicant: 中国科学院半导体研究所 , 中国科学院大学
Abstract: 本公开提供了一种基于递归神经网络的密码字典生成方法，包括以下步骤：S1，对收集的密码集中的密码数据进行预处理；S2，搭建递归神经网络模型；S3，设置递归神经网络超参数并训练递归神经网络；S4，对训练后的递归神经网络采样输出新密码，生成密码字典。本公开基于递归神经网络的密码字典生成方法，通过递归神经网络自动提取现有密码的特征，并生成符合提取特征的相似密码，在节省时间和计算成本的基础上，能够显著扩充原有密码字典中的有效密码数量。
-
公开(公告)号：CN111626410B
公开(公告)日：2023-09-05
申请号：CN201910149310.2
申请日：2019-02-27
Applicant: 中国科学院半导体研究所 , 中国科学院大学
IPC: G06N3/06
Abstract: 一种稀疏卷积神经网络加速器及计算方法，其中，加速器包括：卷积计算模块，用于对输入特征图进行乘加处理，生成中间结果，其中，卷积计算模块由9个计算单元组成，每一计算单元由一个及以上的乘加器组成，同一计算单元中乘加器的激活输入相同，9个计算单元设置有一额外激活输入；非线性及池化模块，用于对中间结果进行非线性计算及池化计算，生成输出特征图；全连接层计算模块，用于对输出特征图进行全连接计算，生成最终结果。通过对多个卷积计算模块组合出不同的工作模式，能够在有效利用激活稀疏性加速卷积神经网络计算的同时，产生较小的额外资源开销和较低的负载失衡。
-
公开(公告)号：CN110659734A
公开(公告)日：2020-01-07
申请号：CN201910931215.8
申请日：2019-09-27
Applicant: 中国科学院半导体研究所
Abstract: 一种深度可分离卷积结构的低比特量化方法，该方法包括：选择量化系数对训练结束的深度可分离卷积神经网络的权重和特征图数据进行均匀量化；对训练结束的深度可分离卷积神经网络中的权重进行逐通道量化；利用特征图数据对深度可分离卷积神经网络进行逐层量化；基于训练集在训练结束的深度可分离卷积神经网络中进行前向运算，并对批量归一化层中的滑动平均参数进行更新；将更新后的批量归一化层中的滑动平均参数和可学习的参数融合到网络权重量化系数和偏置中，实现深度可分离卷积结构的低比特量化。本发明提供的深度可分离卷积结构的低比特量化方法无需任何有标签数据参与、计算简单且与传统方法相比提高了低比特量化后的准确率。
-
Patent Agency Ranking
公开(公告)号：CN110969165B
公开(公告)日：2024-04-09
申请号：CN201911210562.8
申请日：2019-11-28
Applicant: 中国科学院半导体研究所
IPC: G06V30/148 , G06V30/19 , G06N3/0464 , G06N3/08
Abstract: 一种手写字符识别方法，应用于计算机技术领域，包括：获取待识别的手写字符图片，生成与该待识别的手写字符图片字符相同的模板字符图片，将该模板字符图片输入给深度匹配神经网络，以使该深度匹配神经网络提取该模板字符图片的模板字符特征，将该待识别的手写字符图片输入给该深度匹配神经网络，以使深度匹配神经网络根据模板字符特征识别待识别的手写字符图片。本申请还公开了一种手写字符识别装置、电子设备及存储介质，可有效识别手写字符。
-
公开(公告)号：CN111626410A
公开(公告)日：2020-09-04
申请号：CN201910149310.2
申请日：2019-02-27
Applicant: 中国科学院半导体研究所 , 中国科学院大学
IPC: G06N3/06
Abstract: 一种稀疏卷积神经网络加速器及计算方法，其中，加速器包括：卷积计算模块，用于对输入特征图进行乘加处理，生成中间结果，其中，卷积计算模块由9个计算单元组成，每一计算单元由一个及以上的乘加器组成，同一计算单元中乘加器的激活输入相同，9个计算单元设置有一额外激活输入；非线性及池化模块，用于对中间结果进行非线性计算及池化计算，生成输出特征图；全连接层计算模块，用于对输出特征图进行全连接计算，生成最终结果。通过对多个卷积计算模块组合出不同的工作模式，能够在有效利用激活稀疏性加速卷积神经网络计算的同时，产生较小的额外资源开销和较低的负载失衡。
-
公开(公告)号：CN109034281A
公开(公告)日：2018-12-18
申请号：CN201810789695.4
申请日：2018-07-18
Applicant: 中国科学院半导体研究所
CPC classification number: G06K9/6835 , G06N3/0454 , G06N3/08
Abstract: 一种基于卷积神经网络的中文手写体识别的加速方法，包括如下步骤：手写字符图片数据预处理，方便卷积神经网络的分类实现；搭建卷积神经网络结构，在浅层加入第一分类器，中间层加入第二分类器，顶层加入第三分类器；初始化网络参数，固定浅层网络和第一分类器的参数，利用第二分类器的损失函数指导网络训练，更新中间层网络和第二分类器的参数；固定浅层网络、中间层网络、第一分类器和第二分类器的参数，利用第三分类器的损失函数指导网络训练，更新顶层网络和第三分类器的参数；对三个分类器的损失函数进行加权，利用加权后的损失函数微调整个网络和三个分类器的参数；在测试集上对网络的三个分类器进行测试，评估分类器的性能，并且计算三个分类器所需的计算量。
-
公开(公告)号：CN107579816A
公开(公告)日：2018-01-12
申请号：CN201710793177.5
申请日：2017-09-06
Applicant: 中国科学院半导体研究所
Abstract: 本公开提供了一种基于递归神经网络的密码字典生成方法，包括以下步骤：S1，对收集的密码集中的密码数据进行预处理；S2，搭建递归神经网络模型；S3，设置递归神经网络超参数并训练递归神经网络；S4，对训练后的递归神经网络采样输出新密码，生成密码字典。本公开基于递归神经网络的密码字典生成方法，通过递归神经网络自动提取现有密码的特征，并生成符合提取特征的相似密码，在节省时间和计算成本的基础上，能够显著扩充原有密码字典中的有效密码数量。
-
公开(公告)号：CN111105007B
公开(公告)日：2024-04-12
申请号：CN201811267286.4
申请日：2018-10-26
Applicant: 中国科学院半导体研究所
IPC: G06N3/0495 , G06N3/0464 , G06N3/048 , G06N3/082 , G06N3/063
Abstract: 本发明公开了一种用于目标检测的深度卷积神经网络的压缩加速方法，包括：构建并训练一个用于目标检测的深度卷积神经网络；对深度卷积神经网络中所有的权重值和除最后一层外的各层经激活函数后的激活值进行量化测试，量化步长由小至大，测试该网络的检测性能损失情况，在设定的损失范围内选择最大的量化步长；利用该量化步长，确定神经网络中权重值与激活值的截断范围，对神经网络加以限制并训练网络；对深度卷积神经网络进行截断与量化，编写前向代码。本发明采用量化技术降低网络存储量，将网络中32位浮点数运算转化为8位整数运算，同时利用网络的稀疏性，将网络中满足稀疏性条件的层转化为稀疏矩阵运算，达到压缩加速深度卷积神经网络的目的。
-
-
-
-
-
-
-
-
-
Search Results
11
records
(took 0.032 seconds)
