公开(公告)号：CN110874625A

公开(公告)日：2020-03-10

申请号：CN201811012643.2

申请日：2018-08-31

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 张渊 ,  谢迪 ,  浦世亮

IPC: G06N3/04

Abstract: 本申请实施例提供了一种深度神经网络量化方法及装置，深度神经网络量化方法可以包括：获取深度神经网络中的待量化数据层，其中，待量化数据层包括参数层和/或激活量；根据待量化数据层中各待量化数据与预设阈值的大小关系，将待量化数据层划分为小值区域及大值区域，其中，小值区域中的各待量化数据小于大值区域中的各待量化数据；分别对小值区域中各待量化数据以及大值区域中各待量化数据进行量化，得到量化后的待量化数据层。通过本方案，可以实现同时满足高精度及高动态范围的需求，提高DNN的运算性能。

公开(公告)号：CN110751259A

公开(公告)日：2020-02-04

申请号：CN201810814030.4

申请日：2018-07-23

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 李哲暘 ,  谭文明 ,  张渊 ,  杨希超

IPC: G06N3/04 ,  G06N3/063 ,  G06N3/08

Abstract: 本申请实施例提供了深度神经网络中的网络层运算方法及装置，方法包括：获取网络层的输入数据、网络层各输入通道对应的输入位移量以及网络层各输出通道对应的输出位移量；针对各滤波器，分别利用该滤波器中各卷积核，对相应输入通道的输入数据进行卷积运算，得到各输入通道的卷积结果；针对各滤波器，根据各输入位移量，按照第一预设数据精度及数据范围，将该滤波器的各卷积结果进行对齐操作，并将对齐后的各卷积结果进行累加，得到该滤波器的累加结果；针对各滤波器，按照该滤波器对应的输出位移量，对该滤波器的累加结果进行移位，确定移位后的各滤波器的累加结果为网络层的运算结果。通过本方案可以提高网络层运算的准确率和效率。

公开(公告)号：CN110503182A

公开(公告)日：2019-11-26

申请号：CN201810479974.0

申请日：2018-05-18

Applicant: 杭州海康威视数字技术股份有限公司

Inventor： 张渊

IPC: G06N3/04 ,  G06N3/08

Abstract: 本发明实施例提供了一种深度神经网络中的网络层运算方法及装置，其中，深度神经网络中的网络层运算方法包括：获取深度神经网络中网络层的参数矩阵；对参数矩阵中各权值进行归一化操作，得到参数归一化矩阵；根据第一预设基矩阵，将参数归一化矩阵中各元素表示为第一预设基矩阵中元素的线性组合，得到线性组合矩阵；将网络层的输入量与线性组合矩阵进行运算，得到网络层的输出量。通过本方案，可以在有效降低深度神经网络的存储量的同时，降低计算量。