-
公开(公告)号：CN113691594B
公开(公告)日：2023-02-07
申请号：CN202110917450.7
申请日：2021-08-11
Applicant: 杭州电子科技大学
IPC: H04L67/1023 , H04L67/56 , G06F17/10
Abstract: 本发明提出一种基于二阶导数解决联邦学习中数据不平衡问题的方法，可以解决局部和全局不平衡对全局模型训练的影响，本发明包括：云端服务器通过计算损失函数关于全局模型参数的二阶导数获得全局模型参数重要性权重，该权重可以反映参数对任务的重要程度，用于构造正则项；边缘客户端利用接收到的信息构建正则项添加到预先设置的优化目标，对重要的参数设置大的惩罚，对不那么重要的参数设置小的惩罚，从而达到如下效果：1）防止本地模型与全局模型差异过大；2）降低大类对全局模型的贡献；3）尽可能地将关于不同边缘客户端的知识集成到全局模型中；云端服务器利用接收到的本地模型更新全局模型。以次往复，直到全局模型精度达到预设要求。
-
公开(公告)号：CN113691594A
公开(公告)日：2021-11-23
申请号：CN202110917450.7
申请日：2021-08-11
Applicant: 杭州电子科技大学
Abstract: 本发明提出一种基于二阶导数解决联邦学习中数据不平衡问题的方法，可以解决局部和全局不平衡对全局模型训练的影响，本发明包括：云端服务器通过计算损失函数关于全局模型参数的二阶导数获得全局模型参数重要性权重，该权重可以反映参数对任务的重要程度，用于构造正则项；边缘客户端利用接收到的信息构建正则项添加到预先设置的优化目标，对重要的参数设置大的惩罚，对不那么重要的参数设置小的惩罚，从而达到如下效果：1）防止本地模型与全局模型差异过大；2）降低大类对全局模型的贡献；3）尽可能地将关于不同边缘客户端的知识集成到全局模型中；云端服务器利用接收到的本地模型更新全局模型。以次往复，直到全局模型精度达到预设要求。
-
公开(公告)号：CN112488322B
公开(公告)日：2024-02-13
申请号：CN202011473608.8
申请日：2020-12-15
Applicant: 杭州电子科技大学
Abstract: 本发明提出一种基于数据特征感知聚合的联邦学习模型训练方法。本发明中的云端服务器根据边缘客户端上传的本地模型计算全局最优模型，并根据挖掘边缘客户端数据特征，对数据特征进行降维，筛选出关键特征，基于关键特征对边缘客户端进行聚类分组；云端服务器向边缘客户端下发分组信息和全局最优模型；边缘客户端根据接收到的全局最优模型，按照全局最优模型提供本地数据在本地执行模型训练，同一边缘客户端组中随机选择一个本地模型或选择边缘客户端组中最优模型上传给云端服务器。本发明充分利用了边缘客户端的数据特征，将边缘客户端进行分组，避免了不必要的通信并且极大程度的缓解了统计异构性对模型训练的影响，提高了模型的训练效率。
-
公开(公告)号：CN112488322A
公开(公告)日：2021-03-12
申请号：CN202011473608.8
申请日：2020-12-15
Applicant: 杭州电子科技大学
Abstract: 本发明提出一种基于数据特征感知聚合的联邦学习模型训练方法。本发明中的云端服务器根据边缘客户端上传的本地模型计算全局最优模型，并根据挖掘边缘客户端数据特征，对数据特征进行降维，筛选出关键特征，基于关键特征对边缘客户端进行聚类分组；云端服务器向边缘客户端下发分组信息和全局最优模型；边缘客户端根据接收到的全局最优模型，按照全局最优模型提供本地数据在本地执行模型训练，同一边缘客户端组中随机选择一个本地模型或选择边缘客户端组中最优模型上传给云端服务器。本发明充分利用了边缘客户端的数据特征，将边缘客户端进行分组，避免了不必要的通信并且极大程度的缓解了统计异构性对模型训练的影响，提高了模型的训练效率。
-
-
-
Search Results
4
records
(took 0.016 seconds)
