公开(公告)号：CN118941848A

公开(公告)日：2024-11-12

申请号：CN202410967635.2

申请日：2024-07-18

Applicant: 中国铁道科学研究院集团有限公司电子计算技术研究所 ,  北京交通大学 ,  中国铁道科学研究院集团有限公司 ,  中国国家铁路集团有限公司

Inventor： 祝咏升 ,  王伟 ,  单杏花 ,  刘冲 ,  吕晓婷 ,  傅一馨 ,  张军峰 ,  陈政 ,  许向蕊 ,  郝玉蓉

IPC: G06V10/764 ,  G06N20/00 ,  G06F21/55

Abstract: 本发明涉及鲁棒性检测技术领域，涉及一种基于联邦学习的鲁棒性检测方法、装置、设备及介质，所述方法包括获取第一全局模型，所述第一全局模型为服务器端训练的模型；将所述第一全局模型发送至本地端，并利用本地端的数据集对所述全局模型进行更新训练，得到至少一个本地模型；根据至少一个所述本地模型生成第一恶意模型；将所述第一恶意模型发送至服务器端进行聚合并根据聚合后的全局模型进行鲁棒性检测，本发明通过在本地生成第一恶意模型再将第一恶意模型上传至服务器端干扰全局模型更新，继而通过观察测试前后全局模型性能表现来判断联邦学习系统的鲁棒性，有效的提高了联邦学习系统的鲁棒性检测效率和速度。

公开(公告)号：CN118540096A

公开(公告)日：2024-08-23

申请号：CN202410421446.5

申请日：2024-04-09

Applicant: 北京交通大学

Inventor： 王伟 ,  郝玉蓉 ,  刘吉强 ,  李超 ,  段莉 ,  许向蕊 ,  陈国荣 ,  刘鹏睿 ,  吕晓婷 ,  陈政 ,  刘敬楷 ,  振昊 ,  韩昫 ,  刘冲 ,  胡福强 ,  祝咏升 ,  代娇

IPC: H04L9/40 ,  H04L41/16 ,  G06F16/9535 ,  G06N3/098 ,  G06N20/00

Abstract: 本发明公开了一种面向联邦推荐的有目标投毒攻击防御方法及系统，包括：服务器随机选取预设比例的客户端参加模型训练；服务器连续记录不同用户在每一轮的更新项目模式；服务器通过识别良性用户在训练期间更新项目的两种模式，动态剔除不满足前述模式条件的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至客户端；重复该过程直至模型收敛。本发明能够在训练过程中动态检测来自客户端上传的模型参数更新和交互项目更新模式，通过识别良性用户在训练期间更新项目的两种模式，针对性的对参与联邦推荐训练的异常用户进行检测并剔除，可以有效减轻有目标投毒攻击对联邦推荐系统的损害。