公开(公告)号：CN108537325A

公开(公告)日：2018-09-14

申请号：CN201810167217.X

申请日：2018-02-28

Applicant: 三星电子株式会社

Inventor： 朴峻奭

IPC: G06N3/04

CPC classification number: G06N3/02 ,  G06F7/523 ,  G06F7/535 ,  G06F7/5443 ,  G06F2207/4824 ,  G06N3/0454 ,  G06N3/063 ,  G06N3/04

Abstract: 一种操作神经网络装置的方法，可基于输入特征映射图产生输入特征列表，其中所述输入特征列表包括输入特征索引及输入特征值，基于与所述输入特征列表中所包括的输入特征对应的输入特征索引及与权重列表中所包括的权重对应的权重索引产生输出特征索引，且基于与所述输入特征对应的输入特征值及与所述权重对应的权重值产生与所述输出特征索引对应的输出特征值。

公开(公告)号：CN109389219A

公开(公告)日：2019-02-26

申请号：CN201810868446.4

申请日：2018-08-01

Applicant: 三星电子株式会社

Inventor： 李俊行 ,  李承远 ,  河相源 ,  李沅祚

IPC: G06N3/08 ,  G06F7/57

CPC classification number: G06N3/10 ,  G06F7/5443 ,  G06F2207/4824 ,  G06N3/0472 ,  G06N3/063 ,  G06N3/084 ,  G06N3/08 ,  G06F7/57

Abstract: 一种对神经网络的参数进行量化的方法，所述方法包括：根据通过使用浮点来预训练的神经网络的数据，针对在每个特征图和核中包括的每个通道中使用的浮点型参数值，分析每个通道的统计分布；基于每个通道的所述统计分布，确定每个通道的参数的定点表达，所述定点表达在统计上覆盖所述参数值的分布范围；基于执行卷积运算的结果，确定每个通道的偏置和权重的小数长度，作为每个通道的所述定点表达的参数；以及生成定点型量化神经网络，所述定点型量化神经网络所具有的每个通道的偏置和权重具有所确定的小数长度。

公开(公告)号：CN109255436A

公开(公告)日：2019-01-22

申请号：CN201810612562.X

申请日：2018-06-14

Applicant: 英特尔公司

Inventor： B.帕斯卡 ,  M.朗哈默

IPC: G06N3/063 ,  G06N3/04

CPC classification number: G06N3/063 ,  G06F7/544 ,  G06F7/548 ,  G06F2207/4824 ,  G06N3/0481

Abstract: 本公开一般涉及用于增强在集成电路上实现的递归神经网络（RNN）的技术。具体来说，在RNN中使用的激活函数（例如S形和双曲正切）的近似可在集成电路中实现，这可引起涉及实现机器学习的增加的效率、降低的等待时间、增加的精度和降低的资源消耗。

公开(公告)号：CN108446763A

公开(公告)日：2018-08-24

申请号：CN201810146976.8

申请日：2018-02-12

Applicant: 英特尔IP公司

Inventor： P·罗森 ,  R·拉西普拉姆 ,  G·斯特摩尔

IPC: G06N3/063 ,  G06F7/575

CPC classification number: G06N3/08 ,  G05B15/02 ,  G06F5/01 ,  G06F2207/4824 ,  G06N3/04 ,  G06N3/063 ,  G06N3/0635 ,  G06F7/575

Abstract: 本申请公开了可变字长神经网络加速器电路。一种处理系统，包括：处理器，用于执行包括与权重参数和输入值相关联的操作的神经网络应用；以及加速器电路，与处理器相关联，用于执行操作，加速器电路包括：权重存储设备，用于存储对权重参数进行编码的位流；控制器，用于请求来自位流的位；输入数据存储，用于存储输入值；以及算术逻辑单元(ALU)，包括：累加器电路，用于存储累加值；以及运算符电路，用于：接收位和输入值；接收来自控制器的控制信号；以及响应于确定控制信号设置为与第一操作对应的第一值并且位编码第一状态，使存储在累加电路中的累加值增加输入值。

公开(公告)号：CN107239824A

公开(公告)日：2017-10-10

申请号：CN201611104030.2

申请日：2016-12-05

Applicant: 北京深鉴智能科技有限公司

Inventor： 谢东亮 ,  张玉 ,  单羿

IPC: G06N3/04 ,  G06N3/063 ,  G06N3/08

CPC classification number: G06N3/063 ,  G06F7/5443 ,  G06F7/57 ,  G06F2207/4824 ,  G06N3/0454 ,  G06N3/08

Abstract: 提供一种用于实现稀疏卷积神经网络加速器的装置和方法。在本发明的装置中，包括卷积与池化单元、全连接单元和控制单元。通过依据控制信息而读取卷积参数信息与输入数据与中间计算数据，并且读取全连接层权值矩阵位置信息，根据卷积参数信息对输入数据进行第一迭代次数的卷积与池化操作，然后根据全连接层权值矩阵位置信息进行第二迭代次数的全连接计算。每个输入数据被分割为多个子块，由卷积与池化单元和全连接单元分别对多个子块并行进行操作。本发明采用专用电路，支持全连接层稀疏化卷积神经网络，采用ping‑pang缓存并行化设计与流水线设计，有效平衡I/O带宽和计算效率，并获得较好的性能功耗比。

公开(公告)号：CN109635916A

公开(公告)日：2019-04-16

申请号：CN201811094183.2

申请日：2018-09-19

Applicant: 畅想科技有限公司

Inventor： 克里斯·马丁 ,  大卫·霍夫 ,  保罗·布拉塞特 ,  卡加泰·迪基奇 ,  詹姆斯·因贝尔 ,  克利福德·吉布森

IPC: G06N3/04 ,  G06N3/063 ,  G06N3/08

CPC classification number: G06N3/0635 ,  G06F1/3275 ,  G06F7/483 ,  G06F7/544 ,  G06F2207/4824 ,  G06N3/04 ,  G06N3/0454 ,  G06N3/063 ,  G06N3/08

Abstract: 本发明涉及具有可变输出数据格式的深度神经网络的硬件实现。具体地，在本文描述的硬件实现和方法中，硬件实现被配置成：执行一个或多个硬件遍历来实施DNN，其中在每个遍历期间，硬件实现接收用于特定层的输入数据；根据特定层(以及可选地一个或多个后续层)来处理输入数据；并且基于在特定硬件遍历中处理的一个或多个层而输出期望格式的经处理的数据。具体地，当硬件实现接收待处理的输入数据时，硬件实现还接收指示硬件遍历的输出数据的期望格式的信息，并且硬件实现被配置成在输出经处理的数据之前将输出数据转换到期望格式。

公开(公告)号：CN108734269A

公开(公告)日：2018-11-02

申请号：CN201711090079.1

申请日：2017-11-08

Applicant: 三星电子株式会社

Inventor： 穆斯塔法·艾尔可哈米 ,  李正元 ,  崔柳真

IPC: G06N3/04 ,  G06N3/06 ,  G06N3/08

CPC classification number: G06N3/08 ,  G06F5/01 ,  G06F17/16 ,  G06F2207/4824 ,  G06N3/04 ,  G06N3/0454 ,  G06N3/084 ,  G06N3/06

Abstract: 产生输入图像的分类的卷积神经网络及计算机实现方法。在此公开了用于产生输入图像的分类的卷积神经网络(CNN)系统。根据实施例，CNN系统包括：一系列的神经网络层，被配置为：至少基于输入图像获得特征图；通过根据模式将特征图和内核中的至少一个选择的一行的一个或多个元素的值设置为零，并且将所述模式每行循环移位预定间隔以根据循环移位的模式将所述至少一个选择的剩余的行的一个或多个元素的值设置为零，来对所述至少一个选择进行穿孔；对特征图与内核进行卷积，以产生第一卷积输出；至少基于第一卷积输出，产生输入图像的分类。

公开(公告)号：CN107729997A

公开(公告)日：2018-02-23

申请号：CN201710685104.4

申请日：2017-08-11

Applicant: 图芯芯片技术有限公司

Inventor： 罗文杰

IPC: G06N3/063 ,  G06T1/20

CPC classification number: G06N3/04 ,  G06F7/5443 ,  G06F7/764 ,  G06F17/153 ,  G06F17/16 ,  G06F2207/4824 ,  G06N3/0454 ,  G06N3/063 ,  G06N3/082 ,  H04N19/132 ,  H04N19/42 ,  G06T1/20

Abstract: 本发明公开了零系数跳过卷积神经网络引擎。诸如卷积神经网络的卷积引擎通过实现零跳过而有效地对稀疏的核进行操作。输入图块被加载并且通过根据核中的系数的行和列索引使图块移位，来针对非零系数的输入图块计算累加和。每个系数被单独应用于图块，并且在移动到下一个非零系数之前将结果写入累加缓冲器。可以通过这种方式实现3D或4D卷积，其中累加缓冲器的不同区域存储对于沿着一个维度的不同索引的累加和。图像被完全处理，并且在移动到下一个图像之前将每个图像的结果存储在累加缓冲器中。

公开(公告)号：CN108734282A

公开(公告)日：2018-11-02

申请号：CN201810233635.4

申请日：2018-03-21

Applicant: 英特尔公司

Inventor： K·尼利斯 ,  R·黄

IPC: G06N3/063

CPC classification number: G06N3/063 ,  G06F7/523 ,  G06F7/5443 ,  G06F2207/3828 ,  G06F2207/4824 ,  G06N3/08

Abstract: 系统和方法涉及通过将值组合在操作数中以提高计算密度来改进集成电路中的神经网络的吞吐量。系统包括具有乘法器电路的集成电路(IC)。IC接收第一操作数中的第一值和第二值。IC经由乘法器电路对第一操作数和第二操作数执行乘法运算以产生至少部分地基于第一值的第一相乘的乘积以及至少部分地基于第二值的第二相乘的乘积。

公开(公告)号：CN108427991A

公开(公告)日：2018-08-21

申请号：CN201810152235.0

申请日：2018-02-14

Applicant: 谷歌有限责任公司

Inventor： 威廉·约翰·格兰德

IPC: G06N3/063

CPC classification number: G06N3/04 ,  G06F5/012 ,  G06F7/483 ,  G06F2207/3824 ,  G06F2207/4824 ,  G06N3/063 ,  G06N3/08

Abstract: 在定点运算计算系统中实现神经网络。公开了用于在定点运算计算系统中实现神经网络的方法、系统、和计算机存储介质。在一个方面中，一种方法包括以下动作：接收使用处理系统处理神经网络的请求，所述处理系统使用定点运算执行神经网络计算；对于所述神经网络的每一层的每个节点，根据该节点的相应浮点权重值集合来确定该节点的相应缩放值；以及使用该节点的相应缩放值来将该节点的每个浮点权重值转换为对应的定点权重值以生成该节点的定点权重值集合；以及向所述处理系统提供节点的定点浮点权重值集合以供在使用所述神经网络处理输入中使用。