一种模型量化方法、装置、电子设备及存储介质

    公开(公告)号:CN119337045B

    公开(公告)日:2025-04-01

    申请号:CN202411873806.1

    申请日:2024-12-18

    Abstract: 本申请实施例提供了一种模型量化方法、装置、电子设备及存储介质,涉及深度学习技术领域。方法包括:获取原始模型中待量化网络层的待量化权重矩阵;将待量化权重矩阵中各权重分为多个权重组;计算各权重组对应的第一模型损失;按照对应的第一模型损失从大到小的顺序确定当前待处理的权重组;以当前待处理的权重组对应的第二模型损失最小为优化目标,基于目标量化格式确定当前待处理的权重组的目标量化结果;按照对应的第一模型损失从大到小的顺序确定当前待处理的权重组,直至得到各权重组的目标量化结果;基于各权重组的目标量化结果得到量化后的目标模型。如此可以对原始模型进行量化,且量化后的目标模型的模型损失较小。

    一种解码方法、装置及其设备
    2.
    发明公开

    公开(公告)号:CN119450084A

    公开(公告)日:2025-02-14

    申请号:CN202411932643.X

    申请日:2023-07-12

    Abstract: 本申请提供一种解码方法、装置及其设备,该方法包括:从当前图像块对应的码流中解码当前图像块对应的目标特征;基于目标特征确定目标解码网络的第一输入特征;获取目标解码网络的目标特征值量化位宽和目标特征值量化超参,基于目标特征值量化位宽和目标特征值量化超参将第一输入特征转换为第二输入特征;基于目标解码网络的定点型权重对第二输入特征进行处理,得到目标解码网络的输出特征;其中,定点型权重是基于目标权重量化位宽和目标权重量化超参确定;基于目标解码网络的输出特征确定当前图像块对应的重建图像块。通过本申请技术方案,能够在保证解码质量的前提下,降低解码计算量。

    稀疏处理方法、装置及设备

    公开(公告)号:CN112102183B

    公开(公告)日:2024-06-28

    申请号:CN202010910413.9

    申请日:2020-09-02

    Abstract: 本发明提供一种稀疏处理方法、装置及设备,可根据特征图确定稀疏参数,进而可避免或减少关键信息的损失。该方法包括:获得待处理的目标特征图,所述目标特征图包含多个特征值;将所述目标特征图输入至已训练的稀疏网络以得到稀疏特征图;其中,所述稀疏网络包括第一计算层和第二计算层,所述第一计算层用于依据所述目标特征图中的各特征值确定对应的稀疏参数并输出给所述第二计算层,所述第二计算层用于依据输入的所述稀疏参数对所述目标特征图中的特征值进行稀疏处理以得到所述稀疏特征图。

    数据块的处理方法、装置及存储介质

    公开(公告)号:CN112308199B

    公开(公告)日:2024-05-10

    申请号:CN201910683971.3

    申请日:2019-07-26

    Inventor: 李哲暘

    Abstract: 本申请公开了一种数据块的处理方法、装置及存储介质,属于机器学习技术领域。所述方法包括:通过神经网络模型中的元素级操作层,获取上一级网络层输入的数据类型为定点型数据的n个数据块,从已存储的模型数据或元素级操作层的输入数据中,获取每个数据块的各个通道对应的补偿系数,将n个数据块中的各个通道上的数据,分别与各个通道对应的补偿系数进行相乘,得到n个补偿数据块,若n大于1,则对n个补偿数据块进行元素级操作,对得到的元素级操作结果进行输出。本申请通过为各个通道设置补偿系数,使得元素级操作层能够对定点型数据进行处理,操作方式更为灵活,且获取补偿系数的获取方式也较为灵活。

    检测模型蒸馏方法、目标检测方法、装置及电子设备

    公开(公告)号:CN117593624A

    公开(公告)日:2024-02-23

    申请号:CN202311523725.4

    申请日:2023-11-14

    Abstract: 本申请公开一种检测模型蒸馏方法、目标检测方法、装置及电子设备,涉及机器学习技术领域,用于训练出精度更高的学生模型,得到更好的目标检测结果。该方法包括:将样本图像分别输入教师模型和学生模型,从教师模型对样本图像进行处理后输出的识别结果中筛选出教师正样本识别结果;对于每个教师正样本识别结果,从学生模型对样本图像进行处理后预设的多个锚框中确定与教师正样本识别结果匹配的目标锚框;对每对相匹配的教师正样本识别结果和目标锚框进行逻辑输出蒸馏,得到逻辑输出蒸馏损失;基于识别结果真值,确定检测任务损失;基于逻辑输出蒸馏损失,以及检测任务损失,对学生模型进行训练,得到训练后的学生模型。

    一种数据推理的方法、装置、设备及介质

    公开(公告)号:CN117313860A

    公开(公告)日:2023-12-29

    申请号:CN202311250479.X

    申请日:2023-09-26

    Abstract: 本申请实施例提供了一种数据推理的方法、装置、设备及介质,在对目标浮点数据进行推理时,对各个量化后的注意力权重再次进行了归一化处理,降低了推理过程中由注意力权重引起的误差,进一步的用该归一化因子调整输出定点数据特征实现了特征校正,得到目标定点数据特征,使得基于目标定点数据特征得到的推理结果更加准确,提高了数据推理的准确性。并且在推理过程中,不需要定制硬件,从而降低了数据推理的成本,提高了数据推理的效率。

    模型优化方法、装置、电子设备及可读存储介质

    公开(公告)号:CN113554169B

    公开(公告)日:2023-10-27

    申请号:CN202110859734.5

    申请日:2021-07-28

    Abstract: 本申请提供一种模型优化方法、装置、电子设备及可读存储介质,该方法包括:对当前网络模型进行预设轮数的稀疏约束训练,并依据预设阈值对训练后的第一网络模型进行裁剪,得到第一裁后模型;对第一裁后模型的各层进行等比例扩充,并对扩充后的网络模型进行非稀疏约束训练;迭代执行上述操作,直至得到的第二网络模型满足预设停止规则时,确定迭代完成;依据预设裁后计算量,以及迭代过程中得到的第二网络模型,确定第二裁后模型;依据第二裁后模型,对原始网络模型进行变权重稀疏约束训练,得到原始网络模型对应的稀疏模型,并对所述稀疏模型进行离线裁剪。该方法可以实现基于变权重稀疏约束的网络模型自动裁剪。

    一种目标检测方法、装置及电子设备

    公开(公告)号:CN111767935B

    公开(公告)日:2023-09-05

    申请号:CN201911056322.7

    申请日:2019-10-31

    Abstract: 本发明实施例提供了一种目标检测方法、装置及电子设备。其中,所述方法包括:获取待处理图像在多个降采样倍率下的多个初始图像特征;针对除目标降采样倍率外其他降采样倍率下的各个初始图像特征,将该初始图像特征缩放至所述目标降采样倍率,得到映射图像特征;融合所述目标降采样倍率下的初始图像特征和各个所述映射图像特征,得到所述目标降采样倍率下的融合图像特征;将所述目标降采样倍率下的融合图像特征缩放至各个所述其他降采样倍率,得到各个所述其他降采样倍率下的融合图像特征;基于所述待处理图像在所述多个降采样倍率下的融合图像特征,对所述待处理图像进行目标检测。可以提高目标检测的准确性。

Patent Agency Ranking