权重数据存储方法和基于该方法的神经网络处理器

    公开(公告)号:CN107977704B

    公开(公告)日:2020-07-31

    申请号:CN201711102821.6

    申请日:2017-11-10

    Abstract: 本发明提供一种神经网络中的权重数据存储方法和卷积计算方法。所述权重存储方法包括:查找权重卷积核矩阵中的有效权重并获取有效权重索引,其中,所述有效权重是非零权重,所述有效权重索引用于标记所述有效权重在所述权重卷积核矩阵中的位置;存储所述有效权重以及所述有效权重索引。根据本发明的权重数据存储方法和卷积计算方法能够节省存储空间并提高计算效率。

    神经网络处理单元及包含该处理单元的处理系统

    公开(公告)号:CN107844826B

    公开(公告)日:2020-07-31

    申请号:CN201711033537.8

    申请日:2017-10-30

    Abstract: 本发明提供一种神经网络处理单元和包含该处理单元的处理系统。该处理单元包括:乘法器模块,所述乘法器模块包含构成流水线的多级结构,并用于执行神经网络中待计算的神经元和权值的乘法运算,其中,所述乘法器模块的每一级结构完成所述神经元和权值的乘法运算的子运算;自累加器模块,所述自累加器模块基于控制信号对所述乘法器模块的乘法运算结果进行累加运算或将累加结果输出。利用本发明的处理单元和处理系统,能够提高神经网络的计算效率和资源利用率。

    一种用于神经网络处理器的激活装置及方法

    公开(公告)号:CN110147879A

    公开(公告)日:2019-08-20

    申请号:CN201910264756.X

    申请日:2019-04-03

    Abstract: 本发明提供一种用于神经网络处理器的激活装置及处理器。所述激活装置,包括:存储有自变量值与一种激活函数类型的函数值之间的对应关系的查找表单元、激活控制单元、查找预处理单元、查找后处理单元,其中,所述激活控制单元,用于根据当前选择的激活函数类型,产生针对查找表预处理单元、查找后处理单元的控制信号;所述查找预处理单元,用于根据所述控制信号以及待激活的神经元值x,得到待查值;所述查找表单元,用于从其存储的自变量与其激活函数值之间的对应关系中找到与所述待查值匹配的函数值,以作为查找值;所述查找后处理单元,用于根据所述控制信号以及所述查找值,得到对所述待激活的神经元值x的激活结果。

    一种基于winograd卷积运算的卷积神经网络数据处理方法及装置

    公开(公告)号:CN110097172A

    公开(公告)日:2019-08-06

    申请号:CN201910203310.6

    申请日:2019-03-18

    Abstract: 本发明提供一种卷积神经网络数据处理方法以简化卷积操作,所述方法包括:1)根据卷积神经网络模型的权值g以及转换矩阵G,基于GgGT计算针对权值的中间矩阵U;2)对所述针对权值的中间矩阵U进行压缩,以获得用于指示U中有效元素的数值的压缩转换权值矩阵Uz、以及用于指示U中有效元素的坐标的压缩坐标编码S;3)根据所述压缩坐标编码S,计算针对中间矩阵V=[BTdB]的压缩结果以作为压缩转换特征图Vz,其中d为卷积神经网络的输入特征图,B是转换矩阵;4)对所述压缩转换权值矩阵Uz和所述压缩转换特征图Vz执行点乘操作,得到点乘矩阵Mz;5)根据所述点乘矩阵Mz、转换矩阵A,基于ATMzA计算针对所述输入特征图d的卷积运算结果F。

    一种兼容型神经网络加速器及数据处理方法

    公开(公告)号:CN108734270A

    公开(公告)日:2018-11-02

    申请号:CN201810244109.8

    申请日:2018-03-23

    Abstract: 本发明涉及一种兼容型神经网络加速器,包括存储单元,用于存储神经元数据、权值数据及控制指令并输出;矩阵运算单元,用于根据所述控制指令从所述存储单元接收数据并针对所述接收的数据执行矩阵运算并输出运算结果;模式运算单元,包括多个功能模块,所述功能模块可用于从所述矩阵运算单元和/所述激活单元和/或所述存储单元或接收数据,并根据所述控制指令针对所述接收的数据执行与网络对应的特定运算并输出运算结果;激活单元,用于从所述模式运算单元和/或所述存储单元接收数据,并针对所述接收的数据执行激活操作并输出激活结果。

    神经网络中的权重存储方法以及基于该方法的处理器

    公开(公告)号:CN108510058A

    公开(公告)日:2018-09-07

    申请号:CN201810166950.X

    申请日:2018-02-28

    Abstract: 本发明提供一种神经网络中的权重存储方法以及基于该方法的神经网络存储器。该权重存储方法包括:将原二维权重卷积核构建为三维空间矩阵;查找所述三维空间矩阵中的有效权重并建立有效权重索引,其中,所述有效权重是非零权重,所述有效权重索引用于标记所述有效权重在所述三维空间矩阵的位置;存储所述有效权重以及所述有效权重索引。根据本发明的权重数据存储方法和卷积计算方法能够节省存储空间并提高计算效率。

    一种用于神经网络处理器的激活装置及方法

    公开(公告)号:CN108345934A

    公开(公告)日:2018-07-31

    申请号:CN201810038612.8

    申请日:2018-01-16

    Abstract: 本发明提供一种用于神经网络处理器的激活装置及方法,以时分复用的方式减少硬件的闲置时间、并且以简单的结构实现硬件电路。所述激活装置,包括:至少一个激活运算单元、激活控制单元、输入接口、以及输出接口;其中,所述激活运算单元可同时处理的最大数据量小于等于一次性输入所述激活装置的待处理数据量;并且,所述激活控制单元与所述激活运算单元连接,用于根据所述一次性输入所述激活装置的待处理数据量与所述激活运算单元的处理能力之间的关系,控制所述激活运算单元对由所述输入接口从所述激活装置外部一次性接收到的待激活神经元进行分批激活处理,并由所述输出接口将激活处理的结果输出所述激活装置。

    权重数据存储方法和基于该方法的神经网络处理器

    公开(公告)号:CN107977704A

    公开(公告)日:2018-05-01

    申请号:CN201711102821.6

    申请日:2017-11-10

    Abstract: 本发明提供一种神经网络中的权重数据存储方法和卷积计算方法。所述权重存储方法包括:查找权重卷积核矩阵中的有效权重并获取有效权重索引,其中,所述有效权重是非零权重,所述有效权重索引用于标记所述有效权重在所述权重卷积核矩阵中的位置;存储所述有效权重以及所述有效权重索引。根据本发明的权重数据存储方法和卷积计算方法能够节省存储空间并提高计算效率。

    神经网络处理单元及包含该处理单元的处理系统

    公开(公告)号:CN107844826A

    公开(公告)日:2018-03-27

    申请号:CN201711033537.8

    申请日:2017-10-30

    CPC classification number: G06N3/0454

    Abstract: 本发明提供一种神经网络处理单元和包含该处理单元的处理系统。该处理单元包括:乘法器模块,所述乘法器模块包含构成流水线的多级结构,并用于执行神经网络中待计算的神经元和权值的乘法运算,其中,所述乘法器模块的每一级结构完成所述神经元和权值的乘法运算的子运算;自累加器模块,所述自累加器模块基于控制信号对所述乘法器模块的乘法运算结果进行累加运算或将累加结果输出。利用本发明的处理单元和处理系统,能够提高神经网络的计算效率和资源利用率。

Patent Agency Ranking