-
公开(公告)号：CN116527393B
公开(公告)日：2024-01-16
申请号：CN202310662319.X
申请日：2023-06-06
Applicant: 北京交通大学
IPC: H04L9/40 , G06N20/00 , G06F18/214
Abstract: 本发明提供了一种面向联邦学习投毒攻击的防御方法、装置、设备及介质，包括：从多个客户端中获取本地数据对应的第一特征嵌入信息，本地数据预存在客户端中，各个客户端中的本地数据为总训练样本的不相交的样本子集；对第一特征嵌入信息与预存的本地数据对应的数据标签进行互信息计算；根据计算得到的互信息对第一特征嵌入信息进行异常特征嵌入剔除，并将剔除后的第一特征嵌入信息作为正常特征嵌入信息；基于正常特征嵌入信息对预存的顶部模型进行训练，以优化顶部模型参数。本发明能够在不借助辅助数据以及不接触客户端底部模型的条件下实现对恶意样本的规避且不影响模型的可用性，适用于纵向联邦学习场景中。
-
公开(公告)号：CN117010026A
公开(公告)日：2023-11-07
申请号：CN202310797647.0
申请日：2023-06-30
Applicant: 北京交通大学
Abstract: 本发明提供了一种基于联邦知识网络的异常人物关系检测方法。该方法包括：可信第三方生成公钥、私钥和计算密钥，各个社区监控终端提取图像中的人脸特征，将利用公钥加密后的人脸特征对发送给中心服务器，中心服务器在密文条件下计算人脸特征对之间的欧式距离，利用可信第三方构建全局人物关系知识网络；社区监控终端捕获图像并检测亲密关系，将加密的待查询人脸特征对发送给服务器，服务器计算待查询人脸特征对与全局人物关系知识网络中人脸特征对之间的距离，利用可信第三方判断是否存在人员异常关系。本发明方法通过密钥分发、知识网络构建和异常关系检测实现了有效的关系识别和异常监测，有助于保护社区监控终端成员的安全与隐私。
-
公开(公告)号：CN118233190A
公开(公告)日：2024-06-21
申请号：CN202410387088.0
申请日：2024-04-01
Applicant: 北京交通大学
IPC: H04L9/40 , G06N3/098 , G06F18/214
Abstract: 本发明提供一种联邦推荐无目标投毒攻击防御方法、装置和系统，其中方法包括：服务器随机初始一组用户嵌入以近似良性用户嵌入分布；服务器依据近似的用户嵌入组及不同用户上传的更新信息，依次计算项目的推荐评分、评分变化速度、项目统计频数，并由此推断可能的流行项目；服务器采用“多轮综合评价”原则，依据用户与全局模型近次在流行项目上的评分行为一致性共同量化其在本轮的贡献值；服务器计算动态阈值并据此剔除贡献小于这一阈值的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至用户；重复该过程直至模型收敛。本发明有效提高了联邦推荐模型对无目标投毒攻击的抵抗能力。
-
公开(公告)号：CN116341004B
公开(公告)日：2023-09-08
申请号：CN202310304542.7
申请日：2023-03-27
IPC: G06F21/62 , G06F18/213 , G06F18/214 , G06N20/00
Abstract: 本发明提供了一种基于特征嵌入分析的纵向联邦学习隐私泄露检测方法。该方法包括：检测者在纵向联邦学习的训练过程中嵌入影子数据；获取影子数据和纵向联邦学习的目标参与者的私有训练数据在底部模型上的特征嵌入数据，对特征嵌入数据进行平滑处理；利用影子数据和影子数据平滑处理后的特征嵌入数据克隆底部模型的代理模型；利用代理模型通过特征嵌入匹配重构目标参与者的私有训练数据，对纵向联邦学习进行原始数据泄露检测。本发明方法在不破坏VFL效用的条件下，同时实现了对模型泄露、原始数据泄露以及数据特征泄露的脆弱性分析。
-
公开(公告)号：CN118862948A
公开(公告)日：2024-10-29
申请号：CN202410786500.6
申请日：2024-06-18
Applicant: 北京交通大学
Abstract: 本发明提供了一种基于知识蒸馏和锐度感知最小化的个性化联邦学习方法。该方法包括：服务器生成全局共享无标签伪数据集，并下发给各个客户端；客户端利采用锐度感知最小化方法对本地模型进行优化，得到优化后的本地模型wc；客户端利用本地数据集和无标签伪数据集生成本地知识，服务器对各个客户端的本地知识中的logits依据权重系数进行加权运算得到全局#imgabs0#将由全局原型p和全局#imgabs1#构成的全局知识下发给各个客户端；客户端根据本地logits和全局知识中的全局#imgabs2#对本地模型wc进行更新。本发明利用无标签伪数据集作为公共数据集进行知识蒸馏，就能够实现良好的性能。服务器利用权重对本地知识进行聚合，以获得高质量的全局知识，用于提升本地模型性能。
-
Patent Agency Ranking
公开(公告)号：CN118540096A
公开(公告)日：2024-08-23
申请号：CN202410421446.5
申请日：2024-04-09
Applicant: 北京交通大学
Inventor： 王伟 , 郝玉蓉 , 刘吉强 , 李超 , 段莉 , 许向蕊 , 陈国荣 , 刘鹏睿 , 吕晓婷 , 陈政 , 刘敬楷 , 振昊 , 韩昫 , 刘冲 , 胡福强 , 祝咏升 , 代娇
IPC: H04L9/40 , H04L41/16 , G06F16/9535 , G06N3/098 , G06N20/00
Abstract: 本发明公开了一种面向联邦推荐的有目标投毒攻击防御方法及系统，包括：服务器随机选取预设比例的客户端参加模型训练；服务器连续记录不同用户在每一轮的更新项目模式；服务器通过识别良性用户在训练期间更新项目的两种模式，动态剔除不满足前述模式条件的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至客户端；重复该过程直至模型收敛。本发明能够在训练过程中动态检测来自客户端上传的模型参数更新和交互项目更新模式，通过识别良性用户在训练期间更新项目的两种模式，针对性的对参与联邦推荐训练的异常用户进行检测并剔除，可以有效减轻有目标投毒攻击对联邦推荐系统的损害。
-
公开(公告)号：CN116962085B
公开(公告)日：2023-12-08
申请号：CN202311213109.9
申请日：2023-09-20
Applicant: 北京交通大学
Abstract: 本说明书实施例提供了一种鲁棒的个性化联邦学习方法、装置及系统，方法包括：服务器接收来自多个客户端的模型更新数据，模型更新数据为在客户端上训练的本地模型的参数在训练前后的参数差值；服务器根据模型更新数据，得到各模型更新数据之间的基于α的层位置正则化相似度；服务器针对每一个客户端，根据基于α的层位置正则化相似度，得到模型更新数据的权重；服务器根据模型更新数据的权重和模型更新数据，分别得到各客户端对应的聚合模型更新数据；服务器发送聚合模型更新数据到各客户端。本申请提供的技术方案用以解决在联邦学习中系统中存在恶意攻击者时，通过本地协作训练
-
公开(公告)号：CN116594992A
公开(公告)日：2023-08-15
申请号：CN202310876419.2
申请日：2023-07-18
Applicant: 北京交通大学
IPC: G06F16/215 , G06N20/00
Abstract: 本说明书实施例提供了一种针对深度学习模型的机器遗忘方法及装置，其中，方法包括：根据当前拥有数据对原始深度学习模型进行训练，得到训练后的初始模型；根据请求被删除数据计算所述请求被删除数据的遗忘损失；将所述遗忘损失最小化，执行机器遗忘更新所述初始模型，得到遗忘后模型。本公开能够支持已训练模型对任意数据执行高效的遗忘，同时保证模型的可用性，在不损害模型可用性的基础上实现对特定样本的精准删除。
-
公开(公告)号：CN115907029A
公开(公告)日：2023-04-04
申请号：CN202211391958.9
申请日：2022-11-08
Applicant: 北京交通大学
IPC: G06N20/00
Abstract: 本发明提供一种面向联邦学习投毒攻击的防御方法及系统，属于网络安全技术领域，在每轮联邦训练开始阶段将全局模型传输给各个参与方；其中，在第一轮联邦训练时初始化全局模型；利用接收到的参数更新后的全局模型，聚合新的全局模型；其中，参与方基于本地数据和初始化全局模型进行规定轮次的本地训练，进行全局模型参数的更新。本发明计算每一层模型更新的偏差和整体模型更新的偏差，将超过阈值的模型更新偏差的数量作为异常得分，筛选异常得分最小的参与方的模型更新进行聚合，实现了比仅考虑全部参数的距离更细粒度的筛选，筛选结果的数量基于更新参数的异常程度，保证了模型的收敛速度和准确率，同时能有效地应对目标性和非目标性的投毒攻击。
-
公开(公告)号：CN118941848A
公开(公告)日：2024-11-12
申请号：CN202410967635.2
申请日：2024-07-18
Applicant: 中国铁道科学研究院集团有限公司电子计算技术研究所 , 北京交通大学 , 中国铁道科学研究院集团有限公司 , 中国国家铁路集团有限公司
IPC: G06V10/764 , G06N20/00 , G06F21/55
Abstract: 本发明涉及鲁棒性检测技术领域，涉及一种基于联邦学习的鲁棒性检测方法、装置、设备及介质，所述方法包括获取第一全局模型，所述第一全局模型为服务器端训练的模型；将所述第一全局模型发送至本地端，并利用本地端的数据集对所述全局模型进行更新训练，得到至少一个本地模型；根据至少一个所述本地模型生成第一恶意模型；将所述第一恶意模型发送至服务器端进行聚合并根据聚合后的全局模型进行鲁棒性检测，本发明通过在本地生成第一恶意模型再将第一恶意模型上传至服务器端干扰全局模型更新，继而通过观察测试前后全局模型性能表现来判断联邦学习系统的鲁棒性，有效的提高了联邦学习系统的鲁棒性检测效率和速度。
-
-
-
-
-
-
-
-
-
Search Results
20
records
(took 0.021 seconds)
