一种自注意力机制计算方法、推理方法

    公开(公告)号:CN118396039B

    公开(公告)日:2024-08-27

    申请号:CN202410852330.7

    申请日:2024-06-27

    Abstract: 本申请实施例提供了一种自注意力机制计算方法、推理方法,该方法包括:基于待处理对象确定查询矩阵、键矩阵、以及值矩阵;待处理对象包括图像、文本、视频、音频、信号中的任一种或多种;并计算查询矩阵与转置后键矩阵的乘积,作为第一乘积矩阵;以自然常数e为底数,并以第一乘积矩阵为指数,得到第二乘积矩阵;若值矩阵的列数小于第一乘积矩阵的列数,计算第二乘积矩阵与值矩阵的乘积,作为第三乘积矩阵;计算第二乘积矩阵的和值,作为矩阵和值;并计算第三乘积矩阵与矩阵和值的比值,作为基于自注意力机制得到的输出特征。应用本申请实施例提供的技术方案,能够提高基于自注意力机制的推理任务的效率。

    一种解码、编码方法、装置及其设备

    公开(公告)号:CN118354084A

    公开(公告)日:2024-07-16

    申请号:CN202310064103.3

    申请日:2023-01-13

    Abstract: 本申请提供一种解码、编码方法、装置及其设备,该解码方法包括:从当前图像块对应的辅助码流中解码所述当前图像块对应的位宽信息;获取所述位宽信息对应的定点化权重,基于所述定点化权重获取解码网络;从当前图像块对应的主码流中解码所述当前图像块的目标特征,并基于所述解码网络对所述目标特征进行处理,得到所述当前图像块对应的重建图像块。通过本申请技术方案,能够在保证解码质量的前提下,降低解码计算量。

    一种模型压缩方法、装置、电子设备及可读存储介质

    公开(公告)号:CN112329923B

    公开(公告)日:2024-05-28

    申请号:CN202011334592.2

    申请日:2020-11-24

    Abstract: 本申请提供一种模型压缩方法、装置、电子设备及可读存储介质,该模型压缩方法包括:将待压缩模型划分为多个优化单元,其中,一个优化单元包括所述待压缩模型中连续的多个卷积层;对于任一优化单元,对该优化单元中各卷积层的参数进行量化,得到量化后的优化单元;分别对所述量化后的优化单元中各卷积层的参数进行优化,以使第一距离小于第二距离。该方法可以在保证模型性能和模型压缩效果的情况下,减少模型压缩消耗的时间和计算、存储资源。

    一种前向耗时的确定方法、装置及设备

    公开(公告)号:CN111753978B

    公开(公告)日:2024-03-01

    申请号:CN202010062755.X

    申请日:2020-01-19

    Abstract: 本申请提供一种前向耗时的确定方法、装置及设备,该方法包括:将待测神经网络划分为多个操作节点;从所述多个操作节点中选取至少一个操作节点作为目标操作节点;针对每个目标操作节点,确定与所述目标操作节点对应的操作节点集合,所述操作节点集合包括所述目标操作节点和所述目标操作节点的关联操作节点,所述关联操作节点为所述多个操作节点中除所述目标操作节点之外的操作节点;根据所述操作节点集合的信息获取所述目标操作节点的耗时;根据每个目标操作节点的耗时确定所述待测神经网络的前向耗时。通过本申请的技术方案,能够有效预测待测神经网络的前向耗时。

    一种目标检测神经网络训练方法和装置

    公开(公告)号:CN111353597B

    公开(公告)日:2023-12-05

    申请号:CN201811582168.2

    申请日:2018-12-24

    Abstract: 本申请实施例提供了一种目标检测神经网络训练方法和装置。其中,方法包括:利用所述特征提取子网络对样本视频中参考视频帧进行处理,以基于所述参考视频帧与关键视频帧之间的变换关系,计算所述关键视频帧的图像特征,得到预估图像特征,所述参考视频帧为所述样本视频中未经过标定的视频帧,所述样本视频为所述样本视频中经过标定的视频帧;利用所述检测子网络对所述预估图像特征进行处理,得到预测结果;基于所述预测结果与所述关键视频帧的标定结果之间的误差计算损失,对所述目标检测神经网络的网络参数进行调整。可以在不增加因标定带来的工作量的情况下,提高经过训练的目标检

    一种对象检测模型训练方法、装置、电子设备及存储介质

    公开(公告)号:CN116912662A

    公开(公告)日:2023-10-20

    申请号:CN202310897761.0

    申请日:2023-07-20

    Abstract: 本申请实施例提供了一种对象检测模型训练方法、装置、电子设备及存储介质,应用于信息技术领域。应用本申请的方法,可以对对象检测模型训练过程中的网络层权重、输入以及激活值梯度进行量化,从而达到加速对象检测模型训练的目的。本申请将第一激活值梯度按照输出通道方向切割得到第二激活值梯度并计算缩放系数,再通过缩放系数与第二激活值梯度对网络层的输入梯度与网络层的权重梯度进行等价计算,降低对象检测模型在反向传播过程中量化梯度所带来的误差,从而在加速对象检测模型训练的同时,提升对象检测模型的准确度,达到对象检测模型训练效率与训练效果的平衡。

    一种视频帧融合方法、装置、电子设备

    公开(公告)号:CN111754544B

    公开(公告)日:2023-09-05

    申请号:CN201910251735.4

    申请日:2019-03-29

    Abstract: 本发明实施例提供了一种视频帧融合方法、装置、电子设备,方法包括:获取待融合视频中的第一视频帧和第二视频帧,第一视频帧为待融合的视频帧,第二视频帧与第一视频帧相差帧数不超过预设帧数;基于第一视频帧和第二视频帧,确定目标物体的移动速度;根据移动速度,以及预设的移动速度与融合帧数的对应关系,确定与第一视频帧进行融合的视频帧的融合帧数;确定与第一视频帧相邻的融合帧数个第三视频帧;对第一视频帧和融合帧数个第三视频帧进行视频帧融合,得到融合后的第一视频帧。相比于现有的采用统一的融合帧数进行视频帧融合的方法,提高了融合后视频帧中目标物体的显示效果,便于后续的目标检测或目标分析等过程。

Patent Agency Ranking