公开(公告)号：CN118540096A

公开(公告)日：2024-08-23

申请号：CN202410421446.5

申请日：2024-04-09

Applicant: 北京交通大学

Inventor： 王伟 ,  郝玉蓉 ,  刘吉强 ,  李超 ,  段莉 ,  许向蕊 ,  陈国荣 ,  刘鹏睿 ,  吕晓婷 ,  陈政 ,  刘敬楷 ,  振昊 ,  韩昫 ,  刘冲 ,  胡福强 ,  祝咏升 ,  代娇

IPC: H04L9/40 ,  H04L41/16 ,  G06F16/9535 ,  G06N3/098 ,  G06N20/00

Abstract: 本发明公开了一种面向联邦推荐的有目标投毒攻击防御方法及系统，包括：服务器随机选取预设比例的客户端参加模型训练；服务器连续记录不同用户在每一轮的更新项目模式；服务器通过识别良性用户在训练期间更新项目的两种模式，动态剔除不满足前述模式条件的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至客户端；重复该过程直至模型收敛。本发明能够在训练过程中动态检测来自客户端上传的模型参数更新和交互项目更新模式，通过识别良性用户在训练期间更新项目的两种模式，针对性的对参与联邦推荐训练的异常用户进行检测并剔除，可以有效减轻有目标投毒攻击对联邦推荐系统的损害。

公开(公告)号：CN118233190A

公开(公告)日：2024-06-21

申请号：CN202410387088.0

申请日：2024-04-01

Applicant: 北京交通大学

Inventor： 王伟 ,  郝玉蓉 ,  刘吉强 ,  许向蕊 ,  段莉 ,  李超 ,  刘鹏睿 ,  吕晓婷 ,  刘敬楷 ,  陈政 ,  胡福强 ,  祝咏升 ,  代娇

IPC: H04L9/40 ,  G06N3/098 ,  G06F18/214

Abstract: 本发明提供一种联邦推荐无目标投毒攻击防御方法、装置和系统，其中方法包括：服务器随机初始一组用户嵌入以近似良性用户嵌入分布；服务器依据近似的用户嵌入组及不同用户上传的更新信息，依次计算项目的推荐评分、评分变化速度、项目统计频数，并由此推断可能的流行项目；服务器采用“多轮综合评价”原则，依据用户与全局模型近次在流行项目上的评分行为一致性共同量化其在本轮的贡献值；服务器计算动态阈值并据此剔除贡献小于这一阈值的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至用户；重复该过程直至模型收敛。本发明有效提高了联邦推荐模型对无目标投毒攻击的抵抗能力。

公开(公告)号：CN118966380A

公开(公告)日：2024-11-15

申请号：CN202411023007.5

申请日：2024-07-29

Applicant: 北京交通大学

Inventor： 王伟 ,  原笑含 ,  王斌 ,  陈国荣 ,  刘鹏睿 ,  段莉 ,  刘吉强 ,  吕晓婷 ,  许向蕊 ,  祝咏升 ,  陈政 ,  胡福强 ,  代娇

IPC: G06N20/00 ,  G06F21/62

Abstract: 本发明提供一种实现数据遗忘的模型更新方法、数据隐私保护方法及系统，属于数据隐私保护技术领域，中央服务器初始化全局遗忘模型；除目标客户端以外的剩余客户端获取初始化后的全局遗忘模型以进行本地训练；剩余客户端进行本地训练，将训练好的分类器传输给中央服务器；中央服务器通过余弦相似性对新的分类器参数进行判断；中央服务器通过新的分类器参数对历史分类器参数进行校准；中央服务器使用分类器参数更新全局遗忘模型。本发明减少了通讯开销；提高了遗忘操作的效率；提升了机器遗忘过程的鲁棒性，保障全局模型的可靠性。