公开(公告)号：CN119316195A

公开(公告)日：2025-01-14

申请号：CN202411351334.3

申请日：2024-09-26

Applicant: 南京邮电大学

Inventor： 陈思光 ,  章霖芬 ,  缪逸峰 ,  何小明

IPC: H04L9/40 ,  H04L67/5651 ,  H04L67/10 ,  G06N3/098 ,  G06N3/0495

Abstract: 本发明公开了一种面向自然语言处理的隐私保护联邦学习方法，包括三层网络结构，各客户端将自己的梯度进行压缩，并上传压缩后的梯度到对应的边缘服务器层；各边缘服务器聚合其通信范围内的客户端接上传的压缩梯度，并将聚合后的压缩梯度发送至云服务器层；云服务器层将接收到的各边缘服务器发送的压缩梯度进行再次聚合，之后对二次聚合后的梯度进行解压缩；并在客户端上对梯度进行观测和压缩，减少了梯度泄露的可能；基于压缩感知的梯度扰动进一步使攻击者难以从嵌入层重建出相关词语，有效防止原始文本序列被重建，有效地保护客户端隐私，同时降低通信开销，并且对模型的性能仅产生轻微影响。

公开(公告)号：CN119204169A

公开(公告)日：2024-12-27

申请号：CN202411292167.X

申请日：2024-09-14

Applicant: 南京邮电大学

Inventor： 陈思光 ,  黄宇虹 ,  沈建华 ,  何小明

IPC: G06N3/098 ,  G06N3/09 ,  G06F18/24 ,  G06N3/084

Abstract: 本发明公开了一种融合双重对比损失的数据类别适应性平衡联邦学习方法，属于联邦学习技术领域。本发明在数据预处理阶段通过过采样操作，解决了训练样本中类别分布不平衡的问题，保证模型对各个类别样本的学习效果，从而减轻模型的偏移程度，通过设计类内紧凑性损失和有监督对比损失这两种对比性质的损失函数，优化了模型在特征空间学习到的样本特征，解决了过采样可能引发的过拟合问题，从而提高模型的分类性能和泛化能力。