-
公开(公告)号:CN118354084A
公开(公告)日:2024-07-16
申请号:CN202310064103.3
申请日:2023-01-13
Applicant: 杭州海康威视数字技术股份有限公司
IPC: H04N19/169 , H04N19/423 , H04N19/44
Abstract: 本申请提供一种解码、编码方法、装置及其设备,该解码方法包括:从当前图像块对应的辅助码流中解码所述当前图像块对应的位宽信息;获取所述位宽信息对应的定点化权重,基于所述定点化权重获取解码网络;从当前图像块对应的主码流中解码所述当前图像块的目标特征,并基于所述解码网络对所述目标特征进行处理,得到所述当前图像块对应的重建图像块。通过本申请技术方案,能够在保证解码质量的前提下,降低解码计算量。
-
公开(公告)号:CN112329923B
公开(公告)日:2024-05-28
申请号:CN202011334592.2
申请日:2020-11-24
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/0464 , G06N3/082
Abstract: 本申请提供一种模型压缩方法、装置、电子设备及可读存储介质,该模型压缩方法包括:将待压缩模型划分为多个优化单元,其中,一个优化单元包括所述待压缩模型中连续的多个卷积层;对于任一优化单元,对该优化单元中各卷积层的参数进行量化,得到量化后的优化单元;分别对所述量化后的优化单元中各卷积层的参数进行优化,以使第一距离小于第二距离。该方法可以在保证模型性能和模型压缩效果的情况下,减少模型压缩消耗的时间和计算、存储资源。
-
公开(公告)号:CN111783996B
公开(公告)日:2023-08-25
申请号:CN202010562081.X
申请日:2020-06-18
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种数据处理方法、装置及设备,该方法包括:从服务器获取初始基线模型和样本数据对应的第一特征分布信息;获取初始噪声数据,将初始噪声数据输入给初始基线模型,得到初始噪声数据对应的第二特征分布信息;基于第一特征分布信息和第二特征分布信息对初始噪声数据进行训练,得到目标噪声数据;基于目标噪声数据和终端设备的场景数据对初始基线模型进行优化,得到优化后的目标基线模型;在所述终端设备部署所述目标基线模型,以通过所述目标基线模型对所述终端设备的应用数据进行处理。通过本申请的技术方案,目标噪声数据能够反映样本数据的特性,从而基于样本数据的特性对初始基线模型进行优化,解决样本数据缺失的问题。
-
公开(公告)号:CN115620272A
公开(公告)日:2023-01-17
申请号:CN202211284811.X
申请日:2022-10-20
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本发明公开了一种评估模型性能的方法、装置、计算机设备及可读存储介质。该评估模型性能的方法包括:获取由多个候选混合精度模型的比特配置,组成的候选比特配置集合,从候选比特配置集合中分离出候选比特配置子集,测试并记录候选比特配置子集中每个比特配置的量化性能;根据浮点模型的层数,将浮点模型划分为多个浮点优化单元,并确定候选比特配置集合中所有比特配置对应的混合精度模型相对多个浮点优化单元的输出损失;根据量化性能和输出损失,对多个候选的混合精度模型的性能进行预测评估。本发明解决了直接对量化所需的候选模型进行测试时导致的计算资源耗费大及效率低下的问题。
-
公开(公告)号:CN115618942A
公开(公告)日:2023-01-17
申请号:CN202211291646.0
申请日:2022-10-20
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本发明公开了一种浮点模型的多精度量化方法及装置,该量化方法包括:获取给定浮点模型各计算层中的原始量化精度,并获取预先设置的量化函数;将多个原始量化精度中的其中一个原始量化精度作为基础量化精度,根据量化函数将基础量化精度对应的量化缩放系数确定为基础量化缩放系数;在基础量化精度的基础上获得各个原始量化精度对应的实际量化缩放系数;利用量化函数根据基础量化缩放系数或实际量化缩放系数,对各个原始量化精度进行优化处理,并在优化处理的过程中,采用已经优化的原始量化精度的优化精度对下一个未优化的原始量化精度进行优化处理。本发明解决了不同精度的参数优化过程没有关联、过大的优化空间导致时间消耗大的问题。
-
公开(公告)号:CN112329923A
公开(公告)日:2021-02-05
申请号:CN202011334592.2
申请日:2020-11-24
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种模型压缩方法、装置、电子设备及可读存储介质,该模型压缩方法包括:将待压缩模型划分为多个优化单元,其中,一个优化单元包括所述待压缩模型中连续的多个卷积层;对于任一优化单元,对该优化单元中各卷积层的参数进行量化,得到量化后的优化单元;分别对所述量化后的优化单元中各卷积层的参数进行优化,以使第一距离小于第二距离。该方法可以在保证模型性能和模型压缩效果的情况下,减少模型压缩消耗的时间和计算、存储资源。
-
公开(公告)号:CN119316617A
公开(公告)日:2025-01-14
申请号:CN202310856767.3
申请日:2023-07-12
Applicant: 杭州海康威视数字技术股份有限公司
IPC: H04N19/91 , H04N19/124 , H04N19/176 , H04N19/42 , H04N19/44
Abstract: 本申请提供一种解码方法、装置及其设备,该方法包括:从当前图像块对应的码流中解码当前图像块对应的目标特征;基于目标特征确定目标解码网络的第一输入特征;获取目标解码网络的目标特征值量化位宽和目标特征值量化超参,基于目标特征值量化位宽和目标特征值量化超参将第一输入特征转换为第二输入特征;基于目标解码网络的定点型权重对第二输入特征进行处理,得到目标解码网络的输出特征;其中,定点型权重是基于目标权重量化位宽和目标权重量化超参确定;基于目标解码网络的输出特征确定当前图像块对应的重建图像块。通过本申请技术方案,能够在保证解码质量的前提下,降低解码计算量。
-
公开(公告)号:CN119312864A
公开(公告)日:2025-01-14
申请号:CN202310871579.8
申请日:2023-07-14
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06N3/082 , G06N3/0495
Abstract: 本申请属于模型量化技术领域,公开了一种模型量化方法、装置、设备及存储介质。本申请通过获取待量化解码模型中各模型层对应的性能偏差;根据各模型层对应的性能偏差构建分层量化序列;基于分层量化序列对待量化解码模型中的模型层进行分层量化处理。由于会根据待量化解码模型中各模型层对应的性能偏差构建分层量化序列,并依据分层量化序列的序列顺序对待量化解码模型中各模型层分别进行分层量化处理,在处理过程中量化之后会利用调参修正,以尽可能降低模型因低比特量化产生的性能损失。
-
公开(公告)号:CN119337045A
公开(公告)日:2025-01-21
申请号:CN202411873806.1
申请日:2024-12-18
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F17/16 , G06F17/11 , G06F18/214
Abstract: 本申请实施例提供了一种模型量化方法、装置、电子设备及存储介质,涉及深度学习技术领域。方法包括:获取原始模型中待量化网络层的待量化权重矩阵;将待量化权重矩阵中各权重分为多个权重组;计算各权重组对应的第一模型损失;按照对应的第一模型损失从大到小的顺序确定当前待处理的权重组;以当前待处理的权重组对应的第二模型损失最小为优化目标,基于目标量化格式确定当前待处理的权重组的目标量化结果;按照对应的第一模型损失从大到小的顺序确定当前待处理的权重组,直至得到各权重组的目标量化结果;基于各权重组的目标量化结果得到量化后的目标模型。如此可以对原始模型进行量化,且量化后的目标模型的模型损失较小。
-
公开(公告)号:CN111783996A
公开(公告)日:2020-10-16
申请号:CN202010562081.X
申请日:2020-06-18
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种数据处理方法、装置及设备,该方法包括:从服务器获取初始基线模型和样本数据对应的第一特征分布信息;获取初始噪声数据,将初始噪声数据输入给初始基线模型,得到初始噪声数据对应的第二特征分布信息;基于第一特征分布信息和第二特征分布信息对初始噪声数据进行训练,得到目标噪声数据;基于目标噪声数据和终端设备的场景数据对初始基线模型进行优化,得到优化后的目标基线模型;在所述终端设备部署所述目标基线模型,以通过所述目标基线模型对所述终端设备的应用数据进行处理。通过本申请的技术方案,目标噪声数据能够反映样本数据的特性,从而基于样本数据的特性对初始基线模型进行优化,解决样本数据缺失的问题。
-
-
-
-
-
-
-
-
-