-
公开(公告)号:CN112800813A
公开(公告)日:2021-05-14
申请号:CN201911108141.4
申请日:2019-11-13
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种目标识别方法及装置,获取待识别图片,将待识别图片输入预先训练的目标深度学习模型,得到待识别图片中的目标特征,将该目标特征与预先标定的目标特征进行比较,得到待识别图片的目标识别结果。其中,目标深度学习模型在对输入的待识别图片进行运算时,针对目标深度学习模型中的每一个网络层,将输入该网络层的输入特征、该网络层的网络权重和该网络层输出的输出特征中的至少一项量化为位宽小于16比特的低比特整型数据。对于每个网络层,参与运算的是位宽较低的低比特整型数据,降低了参与运算的数据的位宽和数据量,能够提升目标深度学习模型进行目标识别的运算速率,从而提高了目标识别的效率。
-
公开(公告)号:CN109583561B
公开(公告)日:2021-05-07
申请号:CN201710899328.5
申请日:2017-09-28
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本发明实施例提供了一种深度神经网络的激活量量化方法及装置,其中,深度神经网络的激活量量化方法包括:针对深度神经网络中网络层的激活量,获取激活量的初始量化最大值;从初始量化最大值开始,按预设方式递减,得到包括多个数值的初始待选数值集合;计算利用初始待选数值集合中各数值对激活量进行量化得到的量化结果与激活量之间的重构误差;确定各数值对应的重构误差中的最小重构误差;基于与最小重构误差相对应的数值,确定第一量化最大值;根据第一量化最大值及预设比特数,对激活量进行量化。通过本方案可以减少量化带来的误差。
-
公开(公告)号:CN112446461A
公开(公告)日:2021-03-05
申请号:CN201910808066.6
申请日:2019-08-29
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种神经网络模型训练方法及装置,获取训练样本,利用训练样本,对神经网络模型进行训练。在进行神经网络模型训练时,对输入每个网络层的第一激活量和每个网络层的网络权值进行整型定点编码,编码后的第一激活量和网络权值为具有指定位宽的整型定点数据,则在进行运算时,所涉及到的矩阵乘法、矩阵加法等运算都采用整型定点格式,整型定点数据的位宽明显少于单精度浮点数据的位宽,因此,可以大幅地降低运行神经网络模型需要的硬件资源开销。
-
公开(公告)号:CN111160517A
公开(公告)日:2020-05-15
申请号:CN201811320675.9
申请日:2018-11-07
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/04
Abstract: 本申请实施例提供了一种深度神经网络的卷积层量化方法及装置,其中,深度神经网络的卷积层量化方法包括:获取深度神经网络的卷积层参数,该卷积层参数包括:卷积层的四维张量权值以及卷积层中卷积滤波器的空间维度信息;根据空间维度信息,将四维张量权值中处于相同空间位置的权值划分为同一群组,得到多个群组;针对各群组,采用该群组对应的量化参数对该群组中的各权值进行量化,得到量化后的卷积层。通过本方案,可以减小量化误差。
-
公开(公告)号:CN115034351B
公开(公告)日:2025-04-08
申请号:CN202110241125.3
申请日:2021-03-04
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/0464 , G06N3/063 , G06N3/08
Abstract: 本申请实施例提供了一种数据处理方法、卷积神经网络训练方法、装置和FPGA,可以获取待处理图片并存储至预设存储空间,FPGA可以从预设存储空间获取待处理图片,通过卷积层运算核,基于目标卷积神经网络中每一卷积层对应的目标参数矩阵,对待处理图片进行处理,得到最终的特征图,存储至预设存储空间;目标卷积神经网络中每一卷积层对应的目标参数矩阵中的元素,与该卷积层中的卷积核一一对应;该卷积层中的卷积核包含:压缩卷积核和非压缩卷积核,且压缩卷积核的大小小于非压缩卷积核。进而,可以从预设存储空间获取最终的特征图。如此,能够提高基于卷积神经网络进行数据处理的效率。
-
公开(公告)号:CN119721164A
公开(公告)日:2025-03-28
申请号:CN202311254439.2
申请日:2023-09-26
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/082 , G06N3/0464
Abstract: 本申请公开了一种模型量化方法,包括:确定待量化的神经网络模型中待量化层的待量化参数的浮点值集合,所述待量化参数的浮点值集合包括多个待量化参数浮点值;根据所述待量化参数的截断值确定补充浮点值集合和初始浮点值集合;在目标部署平台所对应的输出通道的范围内拼接所述补充浮点值集合和所述初始浮点值集合,得到目标浮点值集合;对所述目标浮点值集合进行量化,得到目标量化值集合。本申请还提供一种电子设备和一种计算机可读介质。
-
公开(公告)号:CN117973461A
公开(公告)日:2024-05-03
申请号:CN202410172204.7
申请日:2024-02-06
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种SNN的生成方法、基于SNN的图像处理方法和装置,涉及深度学习技术领域。具体实现方案为:确定基于预先训练完成的ANN转换得到的SNN,作为初始的SNN;针对SNN中的每一神经元层,基于该神经元层中每一神经元对应的各个候选激活阈值,确定使得该神经元层与ANN中相应的神经元层、对于相同的图像样本的输出分布差异最小时,每一神经元对应的候选激活阈值,作为该神经元对应的初始激活阈值;基于每一神经元对应的初始激活阈值以及预设的拟合函数,计算该神经元在不同时间步长下的激活阈值;将计算得到的激活阈值作为模型参数,对初始的SNN进行参数赋值,得到用于进行图像数据处理的SNN。可见,本方案可以兼顾SNN的性能以及在应用时的效率。
-
公开(公告)号:CN115797643A
公开(公告)日:2023-03-14
申请号:CN202111049371.5
申请日:2021-09-08
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例提供了一种图像去噪方法、装置、系统、边缘设备及存储介质,该方法包括:获取待去噪图像;利用预设多头注意力机制模块,提取待去噪图像的第一特征矩阵,其中,预设多头注意力机制模块包括自注意力机制和通道注意力机制;对第一特征矩阵进行上采样,得到第二特征矩阵;基于第二特征矩阵,生成待去噪图像对应的去噪图像。应用本申请实施例提供的技术方案,能够提高图像去噪效率,降低计算资源的耗费,进而降低对设备的性能要求。
-
公开(公告)号:CN112329909A
公开(公告)日:2021-02-05
申请号:CN201910718494.X
申请日:2019-08-05
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/04
Abstract: 本申请公开了一种生成神经网络模型的方法及装置,属于深度学习领域。本申请通过第一神经网络模型中的N个层来确定得到第二神经网络模型。其中,第一神经网络模型是已经训练好的模型,第二神经网络模型包括第一神经网络模型的N个层,并且,第二神经网络模型中的N个层中除批归一化层之外的其余层的参数均采用第一神经网络模型中的对应层的参数。由此可见,在本申请中,通过第一神经网络模型中的部分层得到的第二神经网络模型可以与第一神经网络模型中对应的层共用参数。这样,只需要训练好一个网络模型,即可根据该训练好的模型得到适配不同运算平台的不同深度的模型,无需重新对不同深度的模型进行训练,省时省力,且节省资源。
-
公开(公告)号:CN111160516A
公开(公告)日:2020-05-15
申请号:CN201811320668.9
申请日:2018-11-07
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/04
Abstract: 本申请实施例提供了一种深度神经网络的卷积层稀疏化方法及装置,其中,方法包括:获取深度神经网络中卷积层的张量及结构参数;根据卷积层的结构参数,利用预设维度划分方法,将该卷积层的张量中处于同一维度的权值划分为同一维度单元,得到多个维度单元;针对各维度单元,根据该维度单元中的权值,对该维度单元中的各权值进行相同的稀疏化操作。通过本方案,可以提高内存的访问效率。
-
-
-
-
-
-
-
-
-