公开(公告)号：CN119442235A

公开(公告)日：2025-02-14

申请号：CN202411477147.X

申请日：2024-10-22

Applicant: 哈尔滨工程大学

Inventor： 吕继光 ,  杨武 ,  苘大鹏 ,  王焕然 ,  韩帅 ,  许晨 ,  熊恒恒 ,  朱玉坤

IPC: G06F21/56 ,  G06F21/62 ,  G06F18/22 ,  G06N20/00

Abstract: 本发明属于联邦学习安全防御技术领域，具体涉及基于对数秘密共享的隐私梯度中毒攻击防御方法、程序、设备及存储介质。本发明基于秘密共享技术，使得密文梯度可以在资源受限的边缘服务器端进行相似性的计算，能够在资源受限的边缘服务器中完成加密参数的相似性计算，进而识别出恶意模型以防御隐私梯度中毒攻击，通过相似性削弱这些恶意模型，增强全局模型聚合过程的鲁棒性，提高联邦学习的安全性和模型性能。

公开(公告)号：CN119442234A

公开(公告)日：2025-02-14

申请号：CN202411477144.6

申请日：2024-10-22

Applicant: 哈尔滨工程大学

Inventor： 吕继光 ,  杨武 ,  苘大鹏 ,  王焕然 ,  韩帅 ,  许晨 ,  熊恒恒 ,  朱玉坤

IPC: G06F21/56 ,  G06F21/62 ,  G06N3/098 ,  G06N3/094

Abstract: 本发明属于联邦学习安全防御技术领域，具体涉及基于模型参数相似性检测的后门攻击防御方法、程序、设备及存储介质。本发明通过分析每个模型的更新幅度和输出的变化，去反映客户端数据样本分布是否发生变化，以此来发现异常模型更新。本发明为每个模型维护了历史模型更新幅度和历史输出分类结果的记录，并计算与当前更新幅度和输出结果的平均相似度，基于这些平均相似度去综合评估客户端的数据样本分布是否发生变化，结合模型参数归一化技术，可以对后门中毒更新进行过滤，同时保留良性的模型更新。