一种面向长尾异构数据的联邦学习方法

    公开(公告)号:CN114429219B

    公开(公告)日:2025-02-11

    申请号:CN202111502142.4

    申请日:2021-12-09

    Abstract: 本发明公开了一种面向长尾异构数据的联邦学习方法包括如下步骤:步骤一、服务器端随机初始化全局模型w并将模型参数发给各个客户端,各个客户端利用收到的模型参数进行模型更新,并将更新后的模型参数上传至服务器端;步骤二、服务器端对收到的本地模型参数后进行聚合得到教师模型和学生模型;步骤三、服务器端对步骤二中得到的教师模型进行校准,让教师模型在无偏知识上进行学习,以此教出好的学生模型;步骤四、使用知识蒸馏将教师模型的无偏知识传递给学生模型,随后将学生模型发给各个客户端开始下一轮联邦训练。

    一种基于元学习的不平衡数据联邦学习方法和系统

    公开(公告)号:CN116628543A

    公开(公告)日:2023-08-22

    申请号:CN202310452512.0

    申请日:2023-04-25

    Abstract: 本发明公开了一种基于元学习的不平衡数据联邦学习方法和系统,包括:客户端接收服务端下发的赋权模型参数和全局模型参数,利用本地数据和赋权模型参数得到用作校正数据不平衡的权重,基于权重、本地数据以及全局模型参数更新本地模型参数,其中,赋权模型参数包括类赋权模型参数、样本赋权模型参数,对应的权重包括类权重和样本权重;服务端接收客户端上传的本地模型参数并聚合得到全局模型参数,利用元数据、赋权模型参数以及聚合的全局模型参数得到元全局模型参数,利用元全局模型参数和元数据来更新赋权模型参数,更新的赋权模型参数和聚合的全局模型参数下发至客户端进行下一轮联邦学习。

    一种面向长尾异构数据的联邦学习方法

    公开(公告)号:CN114429219A

    公开(公告)日:2022-05-03

    申请号:CN202111502142.4

    申请日:2021-12-09

    Abstract: 本发明公开了一种面向长尾异构数据的联邦学习方法包括如下步骤:步骤一、服务器端随机初始化全局模型w并将模型参数发给各个客户端,各个客户端利用收到的模型参数进行模型更新,并将更新后的模型参数上传至服务器端;步骤二、服务器端对收到的本地模型参数后进行聚合得到教师模型和学生模型;步骤三、服务器端对步骤二中得到的教师模型进行校准,让教师模型在无偏知识上进行学习,以此教出好的学生模型;步骤四、使用知识蒸馏将教师模型的无偏知识传递给学生模型,随后将学生模型发给各个客户端开始下一轮联邦训练。

    基于联合和交替学习框架的跨域新类人脸表情识别方法

    公开(公告)号:CN114333027A

    公开(公告)日:2022-04-12

    申请号:CN202111671593.0

    申请日:2021-12-31

    Abstract: 本发明公开了基于联合和交替学习框架的跨域新类人脸表情识别方法,包括:A、建立基本类表情数据集和复合类表情数据集;B、构建用于表情数据识别的情感‑相似度网络;C、对步骤B中的情感分支进行训练全部基本类表情数据的分类模型;D、对步骤B中的相似度分支进行学习表情数据可迁移的特征和度量;E、构建二阶段的联合和交替学习学习框架进行训练情感‑相似度网络,以提高模型对新类表情的泛化能力;F、在复合类表情数据集上采样N个类,使每类包含K个有标签样本作为支持集,每类Q个样本作为查询集,然后基于经训练的相似度分支对查询集进行新类表情分类准确率的计算;本方案是一种灵活且贴近实际需求的解决新类人脸表情识别问题的方案。

    基于联合和交替学习框架的跨域新类人脸表情识别方法

    公开(公告)号:CN114333027B

    公开(公告)日:2024-05-14

    申请号:CN202111671593.0

    申请日:2021-12-31

    Abstract: 本发明公开了基于联合和交替学习框架的跨域新类人脸表情识别方法,包括:A、建立基本类表情数据集和复合类表情数据集;B、构建用于表情数据识别的情感‑相似度网络;C、对步骤B中的情感分支进行训练全部基本类表情数据的分类模型;D、对步骤B中的相似度分支进行学习表情数据可迁移的特征和度量;E、构建二阶段的联合和交替学习学习框架进行训练情感‑相似度网络,以提高模型对新类表情的泛化能力;F、在复合类表情数据集上采样N个类,使每类包含K个有标签样本作为支持集,每类Q个样本作为查询集,然后基于经训练的相似度分支对查询集进行新类表情分类准确率的计算;本方案是一种灵活且贴近实际需求的解决新类人脸表情识别问题的方案。

    基于歧义指导互标签更新的鲁棒知识蒸馏方法

    公开(公告)号:CN114330580B

    公开(公告)日:2025-05-06

    申请号:CN202111676330.9

    申请日:2021-12-31

    Abstract: 本发明公开了基于歧义指导互标签更新的鲁棒知识蒸馏方法,包括:A、构建训练数据集;B、构建教师网络和学生网络;C、通过鲁棒学习方法对教师网络进行训练;D、对数据集中的每个样本进行歧义感知权重估计和权重分配;E、根据小损失标准对数据集中的样本进行标签重新标注,结合教师网络特征的标签传播算法更新标签,再计算损失和更新网络参数;F、在学生网络和教师网络之间进行互标签传播算法,并更新样本标签、计算损失和更新网络参数;G、将测试图像数据导入学生网络,由其得到预测结果且用于图像分类;本方案可以有效地提升知识蒸馏对噪声标签的鲁棒性,从而可以在噪声标签的环境下获取一个高性能的轻量级网络,其更能适用于实际情况。

    基于知识蒸馏特征生成的长尾数据联邦学习方法和系统

    公开(公告)号:CN116843021A

    公开(公告)日:2023-10-03

    申请号:CN202310452493.1

    申请日:2023-04-25

    Abstract: 本发明公开了一种基于知识蒸馏特征生成的长尾数据联邦学习方法和系统,在服务器上训练一个轻量级的生成模型。生成模型的输入为标签,输出为对应的特征。生成特征可以模拟真实特征的分布。在个性化模型的训练过程中,为每个客户端上的局部少数类生成更多特征,为其他类生成更少特征,这将有助于缓解每个客户端数据的严重不平衡。此外,全局模型是从局部模型聚合而来的,在全局头类中表现更好,而且能够获得高质量和含有丰富信息的特征。将全局模型的知识提取到个性化模型中可以帮助提高个性化模型的性能。通过生成特征来知识蒸馏来训练个性化模型。这样能够有效解决联邦异构长尾数据分布的问题,进一步提升了个性化联邦学习下的模型性能。

    基于歧义指导互标签更新的鲁棒知识蒸馏方法

    公开(公告)号:CN114330580A

    公开(公告)日:2022-04-12

    申请号:CN202111676330.9

    申请日:2021-12-31

    Abstract: 本发明公开了基于歧义指导互标签更新的鲁棒知识蒸馏方法,包括:A、构建训练数据集;B、构建教师网络和学生网络;C、通过鲁棒学习方法对教师网络进行训练;D、对数据集中的每个样本进行歧义感知权重估计和权重分配;E、根据小损失标准对数据集中的样本进行标签重新标注,结合教师网络特征的标签传播算法更新标签,再计算损失和更新网络参数;F、在学生网络和教师网络之间进行互标签传播算法,并更新样本标签、计算损失和更新网络参数;G、将测试图像数据导入学生网络,由其得到预测结果且用于图像分类;本方案可以有效地提升知识蒸馏对噪声标签的鲁棒性,从而可以在噪声标签的环境下获取一个高性能的轻量级网络,其更能适用于实际情况。

    一种基于属性语义相似匹配的行人属性识别方法

    公开(公告)号:CN119964204A

    公开(公告)日:2025-05-09

    申请号:CN202510150928.6

    申请日:2025-02-11

    Applicant: 厦门大学

    Abstract: 一种基于属性语义相似匹配的行人属性识别方法,涉及计算机视觉技术领域。首先设计一个自适应的语义查询模块,使用与视觉特征结合的自适应查询来学习特定于属性的空间分布,并捕获每个属性的语义信息。此外,将行人属性识别重构为语义匹配任务,使用属性文本特征作为语义锚点,根据查询的语义信息与锚点间的距离来预测行人属性。最后,提出动态负语义学习策略,通过将属性的空间先验信息与可学习参数相结合,来生成属性的负语义信息,以约束语义查询模块对属性的关注区域,实现更加准确的行人属性识别。

    一种结合视觉-语言预训练和提示学习的域泛化方法

    公开(公告)号:CN118607591A

    公开(公告)日:2024-09-06

    申请号:CN202410736279.3

    申请日:2024-06-07

    Applicant: 厦门大学

    Abstract: 本发明公开了一种结合视觉‑语言预训练和提示学习的域泛化方法。所述方法基于一训练完成的多模态模型以及植入该模型的至少一个域提示生成器,所述多模态模型包括至少一个图像编码器、至少一个文本编码器;获取多域文本数据集及多域图像数据集,并利用模型从多域文本数据集提取每条文本数据对应的第一文本特征,以及,从多域图像数据集提取每张图像数据对应的第一图像特征;在图像编码器中嵌入可学习向量,并利用嵌入后的图像编码器提取多域图像数据集中每张图像数据对应的第二图像特征;将每张图像数据对应的第二图像特征输入域提示生成器,得到每个域对应的总体语言提示等。本发明能够提高模型在未见领域的准确性和效率,解决现有技术中存在的问题。

Patent Agency Ranking