一种联邦学习模型中毒重建的方法、装置、介质及设备

    公开(公告)号:CN117114146A

    公开(公告)日:2023-11-24

    申请号:CN202311007539.5

    申请日:2023-08-11

    Abstract: 本发明公开了一种联邦学习模型中毒重建的方法、装置、介质及设备,所述方法包括获取中毒的联邦学习模型;基于各客户机在训练期间的本地模型的准确率,筛选出在联邦学习模型训练期间中毒的客户机,删除联邦学习模型中由中毒的客户机聚合得到的局部模型,将中毒的客户机作为恶意节点、未中毒的客户机作为诚实节点,将恶意节点从初始DAG网络中移除,得到第二DAG网络;基于第二DAG网络中各诚实节点的本地模型,逐轮聚合各诚实节点的本地模型,得到联邦学习模型的最新全局模型,完成联邦学习模型中毒重建。本发明能够快速剔除恶意节点,将已有的阶段训练成果加入到新一轮训练中,提高联邦学习的训练效率和抗攻击能力。

    一种抵御AI自瞄作弊的对抗贴图生成方法及装置

    公开(公告)号:CN116993893A

    公开(公告)日:2023-11-03

    申请号:CN202311250057.2

    申请日:2023-09-26

    Abstract: 本发明公开了一种抵御AI自瞄作弊的对抗贴图生成方法及装置,包括:将噪声数据集#imgabs0#输入至基于神经网络预先构建的检测器,获取神经网络检测结果;根据真实分类标签和神经网络检测结果计算损失值Loss;将损失值Loss进行反向传播,通过梯度下降法更新所述噪声图像n;重复迭代直到损失值Loss收敛输出训练好的噪声图像#imgabs1#;将训练好的噪声图像#imgabs2#转化为对抗贴图;将训练好的噪声图像#imgabs3#与游戏物品贴图文件相融合,对抗贴图与游戏地面贴图文件相融合用于抵御AI自瞄作弊;所述对抗贴图使AI自瞄作弊程序将游戏画面识别成多个玩家目标,从而降低游戏中正常游戏玩家被AI自瞄作弊程序锁定的概率;保证游戏竞技的公平性。

    一种基于GAN的神经网络水印生成方法、系统和存储介质

    公开(公告)号:CN114119335B

    公开(公告)日:2022-04-26

    申请号:CN202210091866.2

    申请日:2022-01-26

    Abstract: 本发明公开了一种基于GAN的神经网络水印生成方法、系统和存储介质,生成器生成原始数据集的噪声数据集;在原始数据集中加上噪声,得到触发样本水印集;将触发样本水印集和原始数据集同时送入到判别器中;将与原始数据集之间的相似度满足要求的触发样本水印集输入到神经网络模型,输出结果;通过设置判别器的损失函数、生成器的损失函数以及软铰链损失函数,确定整体损失函数;利用整体损失函数同步训练生成器、判别器和神经网络模型;利用触发样本水印集验证所述神经网络模型,获得最终生成水印的神经网络模型。本发明可以自动地根据不同的神经网络模型生成噪声,基本可以满足对不同神经网络模型生成水印的需求。

    多触发模式的可溯源联邦学习模型保护方法、系统及设备

    公开(公告)号:CN118521455A

    公开(公告)日:2024-08-20

    申请号:CN202410991359.3

    申请日:2024-07-23

    Abstract: 本发明公开了多触发模式的可溯源联邦学习模型保护方法、系统及设备,涉及隐私保护技术领域。本发明包括:构建编码器及解码器,利用图像重构损失和信息重构损失对编码器及解码器进行预训练;服务端根据客户端数量,使用预训练的编码器为每个客户端生成唯一对应的触发器集合,在每一轮训练轮次过程中,服务器在分发模型之前使用客户端对应的触发集集合对聚合的全局模型进行水印嵌入。本发明能够对联邦学习模型的知识产权进行保护,能精确追踪到泄露全局模型的客户端,并合理利用注入的水印对破坏模型收敛的恶意客户端进行检测,通过结合独特的客户端信息生成对应的不同触发模式的触发集,有效避免水印进行注入时出现的水印冲突情况。

    一种基于错误分类的模型指纹识别方法及系统

    公开(公告)号:CN117932457B

    公开(公告)日:2024-05-28

    申请号:CN202410331647.6

    申请日:2024-03-22

    Inventor: 周浩 陈先意

    Abstract: 本发明提供一种基于错误分类的模型指纹识别方法及系统,涉及模型版权保护领域。该基于错误分类的模型指纹识别,首先,寻找目标模型和盗版模型(修改后的模型)都分类错误的模型的样本。然后,在不改变目标模型参数的前提条件下,使用GAN网络对这些错误样本的分类特征增强以生成指纹样本并使其分类正确,同时保证指纹样本自然且与原样本的差异较小。最后,用错误样本和指纹样本作为查询集,通过对比错误样本和指纹样本的预测标签来验证模型所有权。这种方法不仅极大增强了指纹样本的隐蔽性,还提高了对模型微调、剪枝和加噪等攻击的鲁棒性。

Patent Agency Ranking