公开(公告)号：CN118298222A

公开(公告)日：2024-07-05

申请号：CN202410383908.9

申请日：2024-04-01

Applicant: 南京信息工程大学

Inventor： 陈苏婷 ,  孟勇 ,  徐文亮 ,  芦馨雨

IPC: G06V10/764 ,  G06V10/80 ,  G06V10/52 ,  G06V10/82 ,  G06V10/44 ,  G06N3/0464 ,  G06N3/048 ,  G01W1/10

Abstract: 本发明公开了一种基于多尺度注意力和卷积融合的短临降水预测方法，包括：1、设计基于Transformer的多尺度架构，该架构包括气象数据和地理信息两种输入数据，为它们各自设计了嵌入层；2、使用自适应位置编码代替传统的固定位置编码，提高了模型的泛化能力；3、通过融合注意力层能够在模型中有效地综合气象数据和地理信息之间的特征信息，自动地学习不同数据之间关联性，从而更好地利用气象数据和地理信息之间的关系，提高预测性能；4、多头注意力层能够并行地学习多组注意力权重，从不同的角度关注输入序列的不同部分；5、引入卷积神经网络，有助于更好地捕捉局部时空关系，使得模型能够更有效地理解复杂的时空模式。

公开(公告)号：CN118211086A

公开(公告)日：2024-06-18

申请号：CN202410310944.2

申请日：2024-03-19

Applicant: 南京信息工程大学

Inventor： 陈苏婷 ,  芦馨雨 ,  孟勇 ,  周雪芬

IPC: G06F18/23 ,  G06F18/214 ,  G06F18/10 ,  G06N3/0464 ,  G06N3/098

Abstract: 本发明公开了一种基于异构模型重组的个性化分层联邦学习环境监测方法，首先通过移动监测终端实时获取城市环境监测相关数据，并将数据上传至边缘节点；然后边缘节点对数据进行预处理和解析；在边缘节点进行异构模型重组和数据模型训练，异构模型重组包括边缘节点更新和移动监测终端更新；最后将训练后的数据模型上传至云端，通过训练后的数据模型进行数据预测及预警。本发明采用分层联邦学习架构，上层的边缘节点云端之间的模型采用异步聚合，通过无等待通信提高学习效率；下层的移动终端和边缘节点之间的模型采用同步聚合，确保高精度和快速收敛。提出的异构模型重组技术，有效地减轻使用分布与移动终端数据不同的公共数据库所带来的不利影响。

公开(公告)号：CN118982078A

公开(公告)日：2024-11-19

申请号：CN202410989337.3

申请日：2024-07-23

Applicant: 南京信息工程大学

Inventor： 陈苏婷 ,  周雪芬 ,  芦馨雨

IPC: G06N20/00 ,  H04L67/1095

Abstract: 本发明提供了一种基于知识蒸馏的联邦学习方法，包括：采用数据分布统计平均筛选出相关性强的客户端，相关性强的客户端利用本地数据集训练本地模型，将数据分布特征和模型参数上传服务器端，由服务器端聚合并更新全局模型；采用无数据知识蒸馏的方法学习全局模型中的本地数据分布，并训练数据生成器，客户端通过数据生成器生成虚拟数据分布；采用数据分布统计平均筛选出相关性强的客户端，相关性强的客户端利用全局模型参数训练并更新本地模型，其余客户端利用虚拟数据分布增强本地数据分布后使用全局模型参数训练并更新其本地模型，再由服务器端进行聚合，迭代至全局模型收敛。本发明通过知识蒸馏与联邦学习相结合，优化了联邦学习的通信开销，解决了联邦数据异构的问题。