公开(公告)号：CN118982078A

公开(公告)日：2024-11-19

申请号：CN202410989337.3

申请日：2024-07-23

Applicant: 南京信息工程大学

Inventor： 陈苏婷 ,  周雪芬 ,  芦馨雨

IPC: G06N20/00 ,  H04L67/1095

Abstract: 本发明提供了一种基于知识蒸馏的联邦学习方法，包括：采用数据分布统计平均筛选出相关性强的客户端，相关性强的客户端利用本地数据集训练本地模型，将数据分布特征和模型参数上传服务器端，由服务器端聚合并更新全局模型；采用无数据知识蒸馏的方法学习全局模型中的本地数据分布，并训练数据生成器，客户端通过数据生成器生成虚拟数据分布；采用数据分布统计平均筛选出相关性强的客户端，相关性强的客户端利用全局模型参数训练并更新本地模型，其余客户端利用虚拟数据分布增强本地数据分布后使用全局模型参数训练并更新其本地模型，再由服务器端进行聚合，迭代至全局模型收敛。本发明通过知识蒸馏与联邦学习相结合，优化了联邦学习的通信开销，解决了联邦数据异构的问题。

公开(公告)号：CN118211086A

公开(公告)日：2024-06-18

申请号：CN202410310944.2

申请日：2024-03-19

Applicant: 南京信息工程大学

Inventor： 陈苏婷 ,  芦馨雨 ,  孟勇 ,  周雪芬

IPC: G06F18/23 ,  G06F18/214 ,  G06F18/10 ,  G06N3/0464 ,  G06N3/098

Abstract: 本发明公开了一种基于异构模型重组的个性化分层联邦学习环境监测方法，首先通过移动监测终端实时获取城市环境监测相关数据，并将数据上传至边缘节点；然后边缘节点对数据进行预处理和解析；在边缘节点进行异构模型重组和数据模型训练，异构模型重组包括边缘节点更新和移动监测终端更新；最后将训练后的数据模型上传至云端，通过训练后的数据模型进行数据预测及预警。本发明采用分层联邦学习架构，上层的边缘节点云端之间的模型采用异步聚合，通过无等待通信提高学习效率；下层的移动终端和边缘节点之间的模型采用同步聚合，确保高精度和快速收敛。提出的异构模型重组技术，有效地减轻使用分布与移动终端数据不同的公共数据库所带来的不利影响。