-
公开(公告)号:CN117876765A
公开(公告)日:2024-04-12
申请号:CN202311858090.3
申请日:2023-12-29
Applicant: 贵州大学
IPC: G06V10/764 , G06V10/44 , G06V10/82 , G06N3/04
Abstract: 本发明提出了一种开放域环境下合理遗忘视觉任务知识的持续学习方法,包括以下步骤:S1,将预处理后的图像送入图像分类网络模型进行视觉特征提取;S2,执行步骤S3和/或步骤S4;S3,利用参数重要性方法以及Hessian信息矩阵更新参数的方法进行重要信息的提取和更新;S4,利用设计的多任务损失函数和模型对齐损失函数平衡新旧任务知识。本发明能够在学习新任务的同时更好地保留旧任务知识,显著提升了分类准确度并有效地降低了遗忘程度,实现了在掌握新知识的同时更好地保留旧知识,从而在动态和不断演变的环境中保持了强大的分类能力和稳健的知识保存。
-
公开(公告)号:CN116310480A
公开(公告)日:2023-06-23
申请号:CN202211522771.8
申请日:2022-11-30
Applicant: 贵州大学
IPC: G06V10/764 , G06V10/774 , G06V10/82 , G06N3/084 , G06N3/096 , G06N3/04
Abstract: 本发明提出了一种基于多网络均值蒸馏损失函数的增量目标检测方法,包括以下步骤:S1,获取待训练图像数据;S2,将步骤S1中获取的待训练图像数据输入训练模型进行训练,得到目标模型;S3,将待处理图像数据输入步骤S2中的目标模型,得到图像结果。本发明针对Faster‑RCNN检测器,我们强化输入端的骨干网络和输出端的RoI_Head网络的蒸馏输出,对中间阶段的RPN网络则采用自适应蒸馏保留过去知识,同时我们采用中的元学习方式缓解因知识蒸馏所造成的模型对新任务学习性能下降的影响。此外,针对新旧模型输出数据分布偏差问题,我们在新旧模型的骨干网络和RPN网络对输出数据进行零均值化缓解新旧模型输出数据分布偏差的问题。
-
公开(公告)号:CN119047585B
公开(公告)日:2025-01-24
申请号:CN202411538991.9
申请日:2024-10-31
Applicant: 贵州大学
IPC: G06N5/04 , G06V10/764 , G06V10/774 , G06V10/40 , G06V10/74
Abstract: 本公开的实施例提供一种基于因果学习与动态参数选择的类增量学习方法。应用于图像数据处理技术领域,包括:获取训练图像集合,训练图像集合中包含各个训练图像和训练图像的真实标签,根据训练图像集合构造输入数据序列;构建教师模型和学生模型进行特征提取,得到输出特征及对应的logits输出,从而构建具有因果关系的旧类知识因果路径以及新类知识因果路径;基于知识蒸馏以及旧类正则化方法,分别采用旧类知识因果路径和新类知识因果路径计算得到旧类积极因果效应以及新类积极因果效应,进行加和计算得到总体因果效应。以此方式,本发明利用因果推理技术以及因果结构方法缓解灾难性遗忘,为缓解灾难性遗忘问题提供了新的思路和解决方案。
-
公开(公告)号:CN119047585A
公开(公告)日:2024-11-29
申请号:CN202411538991.9
申请日:2024-10-31
Applicant: 贵州大学
IPC: G06N5/04 , G06V10/764 , G06V10/774 , G06V10/40 , G06V10/74
Abstract: 本公开的实施例提供一种基于因果学习与动态参数选择的类增量学习方法。应用于图像数据处理技术领域,包括:获取训练图像集合,训练图像集合中包含各个训练图像和训练图像的真实标签,根据训练图像集合构造输入数据序列;构建教师模型和学生模型进行特征提取,得到输出特征及对应的logits输出,从而构建具有因果关系的旧类知识因果路径以及新类知识因果路径;基于知识蒸馏以及旧类正则化方法,分别采用旧类知识因果路径和新类知识因果路径计算得到旧类积极因果效应以及新类积极因果效应,进行加和计算得到总体因果效应。以此方式,本发明利用因果推理技术以及因果结构方法缓解灾难性遗忘,为缓解灾难性遗忘问题提供了新的思路和解决方案。
-
公开(公告)号:CN117934923A
公开(公告)日:2024-04-26
申请号:CN202311865868.3
申请日:2023-12-29
Applicant: 贵州大学
IPC: G06V10/764 , G06V10/774 , G06V10/80 , G06N3/082
Abstract: 本发明提出了一种结构扩展与蒸馏的新旧类特征兼容学习方法,包括:采用训练后的图像分类模型对目标图像进行分类预测,所述图像分类模型的训练过程包括:S1,将旧类图片、新类图片分别输入图像特征提取器进行视觉特征提取,得到旧类图片特征和新类图片特征;S2,将旧类图片特征和新类图片特征通过特征兼容模块进行特征兼容;S3,使用知识蒸馏方法将步骤S2得到的新旧类特征约束在可塑空间,使分布更加紧凑,并缓解新旧类特征不兼容问题。本发明方法能使得图像分类的精度更高,同时效率更快。具有有以下优点:(1)解决了新旧类特征不兼容问题,能有效防止对旧类特征单得遗忘。(2)通过学习不同类别特征间的关联性,对模型综合考虑,提高了模型的准确率。
-
-
-
-