-
公开(公告)号:CN117786495A
公开(公告)日:2024-03-29
申请号:CN202311829082.6
申请日:2023-12-27
Applicant: 支付宝(杭州)信息技术有限公司 , 上海交通大学
IPC: G06F18/241 , G06N20/00
Abstract: 本说明书实施例提供了一种针对联邦学习的鲁棒性测试方法和系统,联邦学习通过多方进行,该方法包括:多方中的第一方通过生成式人工智能模型,生成目标样本的预设风格的模拟样本,将其分类标签设置为与其原始标签不同的目标标签;根据模拟样本和目标标签获取本方本地模型的更新参数并发送到服务器;服务器根据多方分别发送的本地模型的更新参数确定全局更新参数,其中,第一方之外的其他方根据各自的本地样本及其原始标签获取各自本地模型的更新参数并发送到服务器,其他方中的第二方的本地样本包括目标样本;服务器将全局更新参数发送到多方,用于多方分别更新各自的本地模型;通过目标样本和模拟样本,测试第二方更新后的本地模型的鲁棒性指标。