公开(公告)号：CN120046142A

公开(公告)日：2025-05-27

申请号：CN202510115140.1

申请日：2025-01-24

Applicant: 东北大学

Inventor： 毕远国 ,  栾旭坤 ,  黄子烜 ,  刘炯驿 ,  汪美荃

IPC: G06F21/55 ,  G06F21/56 ,  G06F18/214 ,  G06F18/23213 ,  G06N20/00 ,  G06N5/04

Abstract: 本发明属于机器学习技术领域，公开了一种面向黑盒联邦学习的中毒成员推理攻击方法，通过将中毒影响作为推理攻击的依据，展示了仅通过全局模型黑盒权限的推理成功的可能性。通过量化不同样本的对中毒攻击的影响，可以以无监督的方式侵犯客户端的成员隐私。首先本发明是一种黑盒攻击，攻击者仅可以获取全局模型的黑盒权限；其次，本发明无需有关样本的任何先验知识就可以开展攻击；最后，本发明对全局模型的影响很小，保证了攻击尽可能地隐蔽。本发明首先使用针对目标样本的中毒策略来毒害全局模型，其次在不同的训练轮次中对目标样本的预测结果进行度量，最后利用无监督算法对一系列的度量值进行二分类，从而实施成员推理攻击。