-
公开(公告)号:CN114612750B
公开(公告)日:2022-08-19
申请号:CN202210499300.3
申请日:2022-05-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/774 , G06V10/82 , G06N3/04 , G06N3/08 , G06K9/62
Abstract: 本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中,根据每个训练批次训练出的模型与先前已训练的模型之间的差异,自适应地将每个训练批次训练出的模型与先前已训练的模型融合,能够减少模型对先前知识的遗忘,从而避免神经网络训练过程中的损失震荡,加快模型平滑收敛。
-
公开(公告)号:CN114612750A
公开(公告)日:2022-06-10
申请号:CN202210499300.3
申请日:2022-05-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/774 , G06V10/82 , G06N3/04 , G06N3/08 , G06K9/62
Abstract: 本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中,根据每个训练批次训练出的模型与先前已训练的模型之间的差异,自适应地将每个训练批次训练出的模型与先前已训练的模型融合,能够减少模型对先前知识的遗忘,从而避免神经网络训练过程中的损失震荡,加快模型平滑收敛。
-
公开(公告)号:CN114049539A
公开(公告)日:2022-02-15
申请号:CN202210023260.5
申请日:2022-01-10
Applicant: 杭州海康威视数字技术股份有限公司 , 北京航空航天大学
Abstract: 本申请提供了基于去相关二值网络的协同目标识别方法、系统及装置。本申请中,通过将二值网络模型训练过程中的目标量化误差最小化,基于贝叶斯学习将最小化的目标量化误差分解为最大似然估计和最大后验估计以分别确定激活张量二值化误差Lc、权重张量二值化误差Ld,以实现在训练二值网络模型时除了考虑常规的预测误差Ls外,还进一步考虑Lc、Ld,以优化神经网络二值化过程中噪声影响,避免模型训练过程中因为参数的梯度消失或不存在而影响二值网络模型的训练,保证最终训练出的二值网络模型更稳定、更好的完成模型收敛,进一步提高二值网络模型在应用中比如识别出的目标对象(如人脸)和/或异常动作行为(如纵火、抢劫)等的精准度。
-
公开(公告)号:CN114047691A
公开(公告)日:2022-02-15
申请号:CN202210023265.8
申请日:2022-01-10
Applicant: 杭州海康威视数字技术股份有限公司 , 北京航空航天大学
IPC: G05B11/42
Abstract: 本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中,借鉴PID的设计思想,在深度学习常用的梯度下降算法比如Adam算法等中引入微分控制环节,实现自适应调整模型参数的学习率,加速神经网络模型中模型参数的收敛,避免神经网络模型训练过程中的损失震荡,最终实现了自适应学习率协同优化的目标识别。进一步地,在本实施例中,通过对自适应调整后的学习率进行裁剪,可解决后期因为出现极端学习率而造成模型不收敛或找不到良好的全局最优解的问题。
-
公开(公告)号:CN114049539B
公开(公告)日:2022-04-26
申请号:CN202210023260.5
申请日:2022-01-10
Applicant: 杭州海康威视数字技术股份有限公司 , 北京航空航天大学
Abstract: 本申请提供了基于去相关二值网络的协同目标识别方法、系统及装置。本申请中,通过将二值网络模型训练过程中的目标量化误差最小化,基于贝叶斯学习将最小化的目标量化误差分解为最大似然估计和最大后验估计以分别确定激活张量二值化误差Lc、权重张量二值化误差Ld,以实现在训练二值网络模型时除了考虑常规的预测误差Ls外,还进一步考虑Lc、Ld,以优化神经网络二值化过程中噪声影响,避免模型训练过程中因为参数的梯度消失或不存在而影响二值网络模型的训练,保证最终训练出的二值网络模型更稳定、更好的完成模型收敛,进一步提高二值网络模型在应用中比如识别出的目标对象(如人脸)和/或异常动作行为(如纵火、抢劫)等的精准度。
-
-
-
-