公开(公告)号：CN118540096A

公开(公告)日：2024-08-23

申请号：CN202410421446.5

申请日：2024-04-09

Applicant: 北京交通大学

Inventor： 王伟 ,  郝玉蓉 ,  刘吉强 ,  李超 ,  段莉 ,  许向蕊 ,  陈国荣 ,  刘鹏睿 ,  吕晓婷 ,  陈政 ,  刘敬楷 ,  振昊 ,  韩昫 ,  刘冲 ,  胡福强 ,  祝咏升 ,  代娇

IPC: H04L9/40 ,  H04L41/16 ,  G06F16/9535 ,  G06N3/098 ,  G06N20/00

Abstract: 本发明公开了一种面向联邦推荐的有目标投毒攻击防御方法及系统，包括：服务器随机选取预设比例的客户端参加模型训练；服务器连续记录不同用户在每一轮的更新项目模式；服务器通过识别良性用户在训练期间更新项目的两种模式，动态剔除不满足前述模式条件的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至客户端；重复该过程直至模型收敛。本发明能够在训练过程中动态检测来自客户端上传的模型参数更新和交互项目更新模式，通过识别良性用户在训练期间更新项目的两种模式，针对性的对参与联邦推荐训练的异常用户进行检测并剔除，可以有效减轻有目标投毒攻击对联邦推荐系统的损害。