基于知识蒸馏特征生成的长尾数据联邦学习方法和系统

    公开(公告)号:CN116843021A

    公开(公告)日:2023-10-03

    申请号:CN202310452493.1

    申请日:2023-04-25

    Abstract: 本发明公开了一种基于知识蒸馏特征生成的长尾数据联邦学习方法和系统,在服务器上训练一个轻量级的生成模型。生成模型的输入为标签,输出为对应的特征。生成特征可以模拟真实特征的分布。在个性化模型的训练过程中,为每个客户端上的局部少数类生成更多特征,为其他类生成更少特征,这将有助于缓解每个客户端数据的严重不平衡。此外,全局模型是从局部模型聚合而来的,在全局头类中表现更好,而且能够获得高质量和含有丰富信息的特征。将全局模型的知识提取到个性化模型中可以帮助提高个性化模型的性能。通过生成特征来知识蒸馏来训练个性化模型。这样能够有效解决联邦异构长尾数据分布的问题,进一步提升了个性化联邦学习下的模型性能。

    一种面向长尾异构数据的联邦学习方法

    公开(公告)号:CN114429219B

    公开(公告)日:2025-02-11

    申请号:CN202111502142.4

    申请日:2021-12-09

    Abstract: 本发明公开了一种面向长尾异构数据的联邦学习方法包括如下步骤:步骤一、服务器端随机初始化全局模型w并将模型参数发给各个客户端,各个客户端利用收到的模型参数进行模型更新,并将更新后的模型参数上传至服务器端;步骤二、服务器端对收到的本地模型参数后进行聚合得到教师模型和学生模型;步骤三、服务器端对步骤二中得到的教师模型进行校准,让教师模型在无偏知识上进行学习,以此教出好的学生模型;步骤四、使用知识蒸馏将教师模型的无偏知识传递给学生模型,随后将学生模型发给各个客户端开始下一轮联邦训练。

    一种基于元学习的不平衡数据联邦学习方法和系统

    公开(公告)号:CN116628543A

    公开(公告)日:2023-08-22

    申请号:CN202310452512.0

    申请日:2023-04-25

    Abstract: 本发明公开了一种基于元学习的不平衡数据联邦学习方法和系统,包括:客户端接收服务端下发的赋权模型参数和全局模型参数,利用本地数据和赋权模型参数得到用作校正数据不平衡的权重,基于权重、本地数据以及全局模型参数更新本地模型参数,其中,赋权模型参数包括类赋权模型参数、样本赋权模型参数,对应的权重包括类权重和样本权重;服务端接收客户端上传的本地模型参数并聚合得到全局模型参数,利用元数据、赋权模型参数以及聚合的全局模型参数得到元全局模型参数,利用元全局模型参数和元数据来更新赋权模型参数,更新的赋权模型参数和聚合的全局模型参数下发至客户端进行下一轮联邦学习。

    一种面向长尾异构数据的联邦学习方法

    公开(公告)号:CN114429219A

    公开(公告)日:2022-05-03

    申请号:CN202111502142.4

    申请日:2021-12-09

    Abstract: 本发明公开了一种面向长尾异构数据的联邦学习方法包括如下步骤:步骤一、服务器端随机初始化全局模型w并将模型参数发给各个客户端,各个客户端利用收到的模型参数进行模型更新,并将更新后的模型参数上传至服务器端;步骤二、服务器端对收到的本地模型参数后进行聚合得到教师模型和学生模型;步骤三、服务器端对步骤二中得到的教师模型进行校准,让教师模型在无偏知识上进行学习,以此教出好的学生模型;步骤四、使用知识蒸馏将教师模型的无偏知识传递给学生模型,随后将学生模型发给各个客户端开始下一轮联邦训练。

    长序列数据预测方法、装置、计算机设备、介质和产品

    公开(公告)号:CN117932280A

    公开(公告)日:2024-04-26

    申请号:CN202410339838.7

    申请日:2024-03-25

    Abstract: 本申请涉及一种长序列数据预测方法、装置、计算机设备、介质和产品。方法包括:从待预测的第一天文数据中提取第二天文数据和第三天文数据,第二天文数据包括有序变化的文本数据和时间列,第三天文数据包括无序变化的文本数据和时间列;对第二天文数据进行缩放和/或平移直至其均值和/或标准差分布达到预设状态;根据第二天文数据对预设的线性函数进行前向传播和反向传播,并根据线性函数输出第二天文数据在未来时间的数据,线性函数用于表征第二天文数据中前后相邻两个时间列的文本数据之间的映射关系;根据第二天文数据在未来时间的数据与第三天文数据,得到第一天文数据在未来时间列的数据。采用本方法能够兼顾长时间序列预测的效率和精度。

    一种知识库系统及知识库系统的应用方法

    公开(公告)号:CN117133383A

    公开(公告)日:2023-11-28

    申请号:CN202311165110.9

    申请日:2023-09-08

    Abstract: 本说明书公开了一种知识库系统及知识库系统的应用方法。所述知识库系统包括:管理模块、搜索模块、云计算模块,其中,管理模块用于响应用户发送的天体化学反应数据管理指令,执行与天体化学反应数据管理指令相对应的数据管理操作,以对数据库中保存的天体化学反应数据进行管理,搜索模块用于响应用户发送的查询请求,为用户返回与查询请求相匹配的天体化学反应数据,云计算模块用于响应用户发送的模拟请求,确定各基础天体化学反应数据、物理环境参数以及模拟条件参数,并对在物理环境参数对应的物理环境下,各基础天体化学反应数据对应的天体化学反应的过程进行模拟,以确定天体化学反应的过程中所包含的各分子的丰度随时间的变化关系。

    长序列数据预测方法、装置、计算机设备、介质和产品

    公开(公告)号:CN117932280B

    公开(公告)日:2024-06-25

    申请号:CN202410339838.7

    申请日:2024-03-25

    Abstract: 本申请涉及一种长序列数据预测方法、装置、计算机设备、介质和产品。方法包括:从待预测的第一天文数据中提取第二天文数据和第三天文数据,第二天文数据包括有序变化的文本数据和时间列,第三天文数据包括无序变化的文本数据和时间列;对第二天文数据进行缩放和/或平移直至其均值和/或标准差分布达到预设状态;根据第二天文数据对预设的线性函数进行前向传播和反向传播,并根据线性函数输出第二天文数据在未来时间的数据,线性函数用于表征第二天文数据中前后相邻两个时间列的文本数据之间的映射关系;根据第二天文数据在未来时间的数据与第三天文数据,得到第一天文数据在未来时间列的数据。采用本方法能够兼顾长时间序列预测的效率和精度。

    基于用户偏好的室内空气质量调节方法、装置及设备

    公开(公告)号:CN119642371A

    公开(公告)日:2025-03-18

    申请号:CN202411439952.3

    申请日:2024-10-15

    Applicant: 厦门大学

    Abstract: 本发明涉及一种基于用户偏好的室内空气质量调节方法、装置及设备。方法包括:获取用户的当前状态数据和用户所处环境的当前空气数据;将当前状态数据输入至预设的空气质量偏好模型,得到用户对应的需求空气数据,并判断当前空气数据是否达到需求空气数据,其中,预设的空气质量偏好模型基于多个历史数据,利用随机森林算法和深度强化学习算法学习得到;若当前空气数据中任一参数未达到需求空气数据,则根据未达到需求空气数据的参数确定目标控制设备和及其控制参数,并根据控制参数对目标设备进行控制。由此,通过集成硬件和多种算法实现用户偏好空气质量决策控制,实现了真正的智能化和个性化管理,满足了用户对舒适、健康、节能的多重需求。

    基于统一中间模态的跨模态行人重识别方法

    公开(公告)号:CN113903053B

    公开(公告)日:2024-06-07

    申请号:CN202111129224.9

    申请日:2021-09-26

    Applicant: 厦门大学

    Abstract: 基于统一中间模态的跨模态行人重识别方法,涉及计算机视觉技术领域。包括以下步骤:1)将两种模态图像分别输入到两个编码器中进行编码;2)将编码得到的两种特征输入到两个非线性激活函数中用于加深其非线性表达能力;3)将非线性激活后的两种特征输入到一个共享的解码器中,并解码到一个统一的中间图像空间中,得到中间模态图像;4)将得到的中间模态图像与原始图像一起输入到网络中进行优化,完成跨模态行人重识别。可降低模态差异,进一步地拉近两种中间模态图像之间的距离,提升跨模态行人重识别模型的性能。

    一种基于专家协作学习的不平衡数据联邦学习方法

    公开(公告)号:CN117851937A

    公开(公告)日:2024-04-09

    申请号:CN202410032618.X

    申请日:2024-01-09

    Applicant: 厦门大学

    Abstract: 本发明公开了一种基于专家协作学习的不平衡数据联邦学习方法,包括:若干个参与方共同训练一全局模型,直至该全局模型收敛;每个参与方下载收敛完成的该全局模型,并利用该全局模型的特征提取器去初始化参与方的若干专家模型;每个参与方根据各自的数据,对专家模型以及全局模型的分类器进行更新;所述专家模型用于针对不同类别的数据进行特征提取、分类,包括头类数据专家模型和尾类数据专家模型;将待测样本输入专家模型以及全局模型等。本发明为每个参与方设置一个头专家和一个尾专家分别针对每个参与方中的头部类和尾部类,这允许每个参与方中的少数类去成为一个专家的主导类,每个专家内部的不平衡程度和参与方的不平衡程度相比,也会有所降低。

Patent Agency Ranking