-
公开(公告)号：CN114047691A
公开(公告)日：2022-02-15
申请号：CN202210023265.8
申请日：2022-01-10
Applicant: 杭州海康威视数字技术股份有限公司 , 北京航空航天大学
IPC: G05B11/42
Abstract: 本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中，借鉴PID的设计思想，在深度学习常用的梯度下降算法比如Adam算法等中引入微分控制环节，实现自适应调整模型参数的学习率，加速神经网络模型中模型参数的收敛，避免神经网络模型训练过程中的损失震荡，最终实现了自适应学习率协同优化的目标识别。进一步地，在本实施例中，通过对自适应调整后的学习率进行裁剪，可解决后期因为出现极端学习率而造成模型不收敛或找不到良好的全局最优解的问题。
-
公开(公告)号：CN114612750B
公开(公告)日：2022-08-19
申请号：CN202210499300.3
申请日：2022-05-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/774 , G06V10/82 , G06N3/04 , G06N3/08 , G06K9/62
Abstract: 本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中，根据每个训练批次训练出的模型与先前已训练的模型之间的差异，自适应地将每个训练批次训练出的模型与先前已训练的模型融合，能够减少模型对先前知识的遗忘，从而避免神经网络训练过程中的损失震荡，加快模型平滑收敛。
-
公开(公告)号：CN114612750A
公开(公告)日：2022-06-10
申请号：CN202210499300.3
申请日：2022-05-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/774 , G06V10/82 , G06N3/04 , G06N3/08 , G06K9/62
Abstract: 本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中，根据每个训练批次训练出的模型与先前已训练的模型之间的差异，自适应地将每个训练批次训练出的模型与先前已训练的模型融合，能够减少模型对先前知识的遗忘，从而避免神经网络训练过程中的损失震荡，加快模型平滑收敛。
-
-
Search Results
3
records
(took 0.032 seconds)
