-
公开(公告)号:CN114092779A
公开(公告)日:2022-02-25
申请号:CN202111216830.4
申请日:2021-10-19
Applicant: 杭州电子科技大学
Abstract: 本发明公开了一种基于注意力机制的神经网络正则化方法。本发明步骤:(1)批量图像输入和预处理;(2)利用CNN卷积神经网络进行特征提取;(3)利用注意力机制进行关键特征筛选;(4)交换不同目标图像的关键特征;(5)不同图像的关键特征和非关键特征共同组成重构图像的语义信息;(6)设计一种自适应置信度估计方法,判断重构图像的所属类别;(7)利用重构图像对神经网络进行训练得到更准确的训练模型。本发明通过样本拓充和充分挖掘图像的潜在特征,以提升模型的鲁棒性和整体性能。本发明的优势在于使用注意力机制指导图像特征自适应重构,适用范围广、模型精确度高、鲁棒性强。
-
公开(公告)号:CN114092779B
公开(公告)日:2025-05-02
申请号:CN202111216830.4
申请日:2021-10-19
Applicant: 中国电子科技集团公司第二十研究所 , 杭州电子科技大学
IPC: G06V10/82 , G06V10/764 , G06V10/44 , G06V10/771 , G06N3/0464 , G06N3/045 , G06V20/70 , G06V10/25 , G06V10/26
Abstract: 本发明公开了一种基于注意力机制的神经网络正则化方法。本发明步骤:(1)批量图像输入和预处理;(2)利用CNN卷积神经网络进行特征提取;(3)利用注意力机制进行关键特征筛选;(4)交换不同目标图像的关键特征;(5)不同图像的关键特征和非关键特征共同组成重构图像的语义信息;(6)设计一种自适应置信度估计方法,判断重构图像的所属类别;(7)利用重构图像对神经网络进行训练得到更准确的训练模型。本发明通过样本拓充和充分挖掘图像的潜在特征,以提升模型的鲁棒性和整体性能。本发明的优势在于使用注意力机制指导图像特征自适应重构,适用范围广、模型精确度高、鲁棒性强。
-
公开(公告)号:CN114090770B
公开(公告)日:2022-11-04
申请号:CN202111216820.0
申请日:2021-10-19
Applicant: 杭州电子科技大学
Abstract: 本发明公开了一种多阶段的无监督域适应因果关系识别方法。本发明步骤包括:(1)数据集划分;(2)利用自适应对比学习进行预训练;(3)结合知识蒸馏进行对抗学习;(4)多级数据过滤得到种子集;(5)单级数据过滤得到伪标签集合;(6)利用k‑means聚类方法获取子类原型;(7)采用特征级别的数据增强引入一致性;(8)利用过滤得到的伪标签进行自训练。本发明通过自适应对比学习获取源域中丰富的因果关系知识,然后利用知识蒸馏和对抗学习的方式将源域知识迁移到目标域,再通过数据过滤获得多级的子类原型和无标签样本的伪标签,利用原型进行特征级别的数据增强从而引入一致性损失,利用伪标签在目标域进行自训练。
-
公开(公告)号:CN114090770A
公开(公告)日:2022-02-25
申请号:CN202111216820.0
申请日:2021-10-19
Applicant: 杭州电子科技大学
Abstract: 本发明公开了一种多阶段的无监督域适应因果关系识别方法。本发明步骤包括:(1)数据集划分;(2)利用自适应对比学习进行预训练;(3)结合知识蒸馏进行对抗学习;(4)多级数据过滤得到种子集;(5)单级数据过滤得到伪标签集合;(6)利用k‑means聚类方法获取子类原型;(7)采用特征级别的数据增强引入一致性;(8)利用过滤得到的伪标签进行自训练。本发明通过自适应对比学习获取源域中丰富的因果关系知识,然后利用知识蒸馏和对抗学习的方式将源域知识迁移到目标域,再通过数据过滤获得多级的子类原型和无标签样本的伪标签,利用原型进行特征级别的数据增强从而引入一致性损失,利用伪标签在目标域进行自训练。
-
-
-