一种基于泰勒展开的分层加密DNN主动保护方法及系统

    公开(公告)号:CN117909940A

    公开(公告)日:2024-04-19

    申请号:CN202410309654.6

    申请日:2024-03-19

    Inventor: 佘冰涛 陈先意

    Abstract: 本发明公开一种基于泰勒展开的分层加密DNN主动保护方法及系统,属于计算机视觉应用领域;方法包括:从训练集中抽取加密集图像,随机选择模型中的卷积层,将加密集图模型使用泰勒展开的方法近似估计修改参数得到的损失变化作为卷积层的输出值,得到参数的重要度分数和排序后重要参数集合;使用pytorch内置函数对加密层的参数数值分布进行统计,得到需要加密的层的参数值与位置分布,并对参数值排序得到最大、最小参数值;计算得到需要加密的参数集合;对需要加密的参数集合根据重要度分数划分4个参数集合,并使用AES算法分别对4个参数集合中的子集加密,对应得到4个加密集合;对4个加密集合进行组合分配,得到不同用户权限。

    一种高迁移性对抗样本生成方法、设备及介质

    公开(公告)号:CN117523342A

    公开(公告)日:2024-02-06

    申请号:CN202410013633.X

    申请日:2024-01-04

    Inventor: 许林峰 陈先意

    Abstract: 本发明公开了一种高迁移性对抗样本生成方法、设备及介质,首先使用现有的特征级攻击方式进行攻击后生成对抗样本,该对抗样本在原模型上获得新特征作为强化方向。通过在干扰原始特征的同时,进一步强化新生成的特征,来达到提升对抗样本迁移性的目的。本发明相比于其他只干扰原始特征的特征级方法,本发明通过聚合原始特征梯度和新生成特征梯度来构建的损失函数。在干扰图像的原始特征的同时去强化新生成的特征。在迁移攻击其他模型时更加容易被攻击成为新生成的特征类别,这样可以生成更高迁移性的对抗样本。

    自然对抗补丁生成方法、目标检测模型的训练方法及装置

    公开(公告)号:CN116631043B

    公开(公告)日:2023-09-22

    申请号:CN202310912988.8

    申请日:2023-07-25

    Abstract: 本发明公开了一种自然对抗补丁生成方法、目标检测模型的训练方法及装置,自然对抗补丁生成方法,包括:将自然图像通过预训练好的自动编码器中的编码器进行感知压缩,得到潜在空间;利用扩散模型学习潜在空间并进行训练,得到训练好的扩散模型;从高斯分布中采样一个随机噪声,并通过训练好的扩散模型将所述随机噪声映射到潜在空间中的隐变量,得到映射隐变量,随后通过预训练好的自动编码器中的解码器对映射隐变量采样得到自然对抗补丁。本发明通过生成一种具有人们熟悉的图案和内容的自然对抗补丁,用于对目标检测器或人脸识别系统进行训练,能有效提高目标检测器或人脸识别系统的检测精度以及鲁棒性。

    一种基于DWT的个性化模型版权保护方法及系统

    公开(公告)号:CN119693213B

    公开(公告)日:2025-05-02

    申请号:CN202510214233.X

    申请日:2025-02-26

    Abstract: 本发明公开了一种基于DWT的个性化模型版权保护方法及系统,涉及计算机科学技术领域,包括:利用生成网络G为原始图像生成个性化的特定模式。接着,通过DWT将原始图像和特定模式分别转化为低频和高频区域。然后,将特定模式的高频信息作为水印触发器嵌入到干净图像的小波域中,并通过逆离散小波变换IDWT将组合后的图像从小波域转换为空间域,最终生成水印样本。本发明从样本的特征属性出发,在确保水印样本集多样性的基础上,采用特征提取器计算水印样本与原始样本的余弦相似度进行筛选,选择对水印模型贡献度高的样本,从而使水印验证过程更加高效和准确。

    一种基于激活图的联邦学习版权保护方法、系统及设备

    公开(公告)号:CN118468250B

    公开(公告)日:2024-11-08

    申请号:CN202410942884.6

    申请日:2024-07-15

    Abstract: 本发明公开了一种基于激活图的联邦学习版权保护方法、系统及设备,涉及人工智能隐私保护技术领域。本发明包括:构建检测器,并对检测器进行预训练;分别为每个客户端定义一个正态分布#imgabs0#的潜在空间和一个约束#imgabs1#,以便生成不同强度的高斯噪声触发集,触发集输入到模型得到某一层的激活图,同时构建投影模型#imgabs2#,将水印信息无缝嵌入到客户端模型对应层的激活图中。本发明通过服务器端水印技术,可以在每一轮或数轮联邦学习模型更新过程中有效地插入水印,每个客户端模型都被嵌入了一个唯一的水印,这使得通过比较不同模型中的水印,可以有效地识别并追踪到窃取模型的恶意客户端。

    一种基于泰勒展开的分层加密DNN主动保护方法及系统

    公开(公告)号:CN117909940B

    公开(公告)日:2024-05-17

    申请号:CN202410309654.6

    申请日:2024-03-19

    Inventor: 佘冰涛 陈先意

    Abstract: 本发明公开一种基于泰勒展开的分层加密DNN主动保护方法及系统,属于计算机视觉应用领域;方法包括:从训练集中抽取加密集图像,随机选择模型中的卷积层,将加密集图模型使用泰勒展开的方法近似估计修改参数得到的损失变化作为卷积层的输出值,得到参数的重要度分数和排序后重要参数集合;使用pytorch内置函数对加密层的参数数值分布进行统计,得到需要加密的层的参数值与位置分布,并对参数值排序得到最大、最小参数值;计算得到需要加密的参数集合;对需要加密的参数集合根据重要度分数划分4个参数集合,并使用AES算法分别对4个参数集合中的子集加密,对应得到4个加密集合;对4个加密集合进行组合分配,得到不同用户权限。

    一种高迁移性对抗样本生成方法、设备及介质

    公开(公告)号:CN117523342B

    公开(公告)日:2024-04-16

    申请号:CN202410013633.X

    申请日:2024-01-04

    Inventor: 许林峰 陈先意

    Abstract: 本发明公开了一种高迁移性对抗样本生成方法、设备及介质,首先使用现有的特征级攻击方式进行攻击后生成对抗样本,该对抗样本在原模型上获得新特征作为强化方向。通过在干扰原始特征的同时,进一步强化新生成的特征,来达到提升对抗样本迁移性的目的。本发明相比于其他只干扰原始特征的特征级方法,本发明通过聚合原始特征梯度和新生成特征梯度来构建的损失函数。在干扰图像的原始特征的同时去强化新生成的特征。在迁移攻击其他模型时更加容易被攻击成为新生成的特征类别,这样可以生成更高迁移性的对抗样本。

    一种联邦学习模型中毒重建的方法、装置、介质及设备

    公开(公告)号:CN117114146B

    公开(公告)日:2024-03-29

    申请号:CN202311007539.5

    申请日:2023-08-11

    Abstract: 本发明公开了一种联邦学习模型中毒重建的方法、装置、介质及设备,所述方法包括获取中毒的联邦学习模型;基于各客户机在训练期间的本地模型的准确率,筛选出在联邦学习模型训练期间中毒的客户机,删除联邦学习模型中由中毒的客户机聚合得到的局部模型,将中毒的客户机作为恶意节点、未中毒的客户机作为诚实节点,将恶意节点从初始DAG网络中移除,得到第二DAG网络;基于第二DAG网络中各诚实节点的本地模型,逐轮聚合各诚实节点的本地模型,得到联邦学习模型的最新全局模型,完成联邦学习模型中毒重建。本发明能够快速剔除恶意节点,将已有的阶段训练成果加入到新一轮训练中,提高联邦学习的训练效率和抗攻击能力。

Patent Agency Ranking