基于通用潜在感染的对抗样本制备方法

    公开(公告)号:CN119068286A

    公开(公告)日:2024-12-03

    申请号:CN202411105388.1

    申请日:2024-08-13

    Abstract: 本发明公开了一种基于通用潜在感染的对抗样本制备方法,首先获取干净样本集和目标样本集,将目标样本集所包含的类别划分为已知类别和未知类别,将属于已知类别集合的目标样本构成目标样本集,构建包括特征提取器,尺寸匹配模块和生成器的对抗样本生成模型,该模型通过对目标样本提取特征并进行尺寸匹配后叠加至生成器对应的感染层输入,从而对干净样本进行感染生成对抗样本;采用训练样本集对对抗样本生成模型进行训练,然后对于干净样本集中每个干净样本,任意选择一个与其类别不同的目标样本一起输入训练好的对抗样本生成模型生成对抗样本。本发明所构建的对抗样本生成模型支持基于任何目标样本生成对抗样本,从而提高对抗样本生成的通用性。

    一种基于迁移的对抗样本制备方法

    公开(公告)号:CN116797874A

    公开(公告)日:2023-09-22

    申请号:CN202310717695.4

    申请日:2023-06-16

    Abstract: 本发明涉及图像分类模型的安全领域,具体涉及一种基迁移的对抗样本制备方法,其首先,将输入图像按设定的采样次数复制并分别添加扰动,获得一组分别按随机方向接近替代模型的决策边界的边界点样本;然后,利用替代模型,计算各边界点样本的损失梯度;之后,计算边界点样本的平均梯度,并以平均梯度的方向添加设定步长的扰动,获得当前步的输出图像;最终,通过多次的迭代获得对抗样本。该方法,通过对替代模型决策边界信息的充分利用,进行边界拟合,增强了对抗样本的迁移性,迁移范围广,能有效评估多种不同结构的模型,评估结果更接近目标模型的鲁棒性下限。适用于基于迁移的黑盒模型鲁棒性评估。

Patent Agency Ranking