公开(公告)号：CN116664922A

公开(公告)日：2023-08-29

申请号：CN202310567511.0

申请日：2023-05-19

Applicant: 中国人民解放军战略支援部队信息工程大学

Inventor： 张恒巍 ,  李晨蔚 ,  张晓宁 ,  杨博 ,  王晋东 ,  刘小虎 ,  谭晶磊 ,  张玉臣 ,  汪永伟 ,  董书琴

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/094

Abstract: 本发明涉及图像处理技术领域，特别涉及一种基于缩放变换的智能对抗攻击样本生成方法及系统，获取原始图像数据及其对应先验标签；基于迭代优化方法在原始图像数据中添加扰动，以生成对抗样本并输出，其中，每次迭代中对上一轮迭代生成的对抗样本图像数据进行多次缩放扩充处理，将缩放扩充处理后的图像数据输入至网络模型并利用梯度优化方法计算目标损失函数梯度，依据目标损失函数梯度来获取当前迭代中扰动，并将扰动添加到上一轮迭代生成的对抗样本，以生成当前迭代的对抗样本。本发明可有效扩充训练集并减轻对抗样本生成过程中的过拟合，提高对抗样本迁移性和黑盒攻击成功率，提升对抗样本生成质量，便于图像分类、目标检测、人脸识别等场景应用。

公开(公告)号：CN115830369A

公开(公告)日：2023-03-21

申请号：CN202211481160.3

申请日：2022-11-24

Applicant: 中国人民解放军战略支援部队信息工程大学

Inventor： 张恒巍 ,  李哲铭 ,  张晓宁 ,  米岩 ,  孙鹏宇 ,  李晨蔚 ,  杨博 ,  张畅 ,  王晋东 ,  谭晶磊 ,  刘小虎 ,  张玉臣

IPC: G06V10/764 ,  G06V10/46 ,  G06V10/774 ,  G06V10/82 ,  G06N3/045 ,  G06N3/0464 ,  G06N3/084 ,  G06N3/094

Abstract: 本发明属于计算机视觉处理技术领域，特别涉及一种基于深度神经网络的对抗样本生成方法及系统，首先将样本数据中的原始图像转化为显著图；利用显著图圈定样本数据原始图像中用于添加扰动的显著区域，通过对显著图像素值进行二值化处理来获取显著掩膜；将样本数据中的原始图像输入图像分类模型中，利用Nadam优化算法与卷积神经网络反向传输过程中的梯度信息，迭代生成全局扰动的对抗样本；将对抗样本与原始图像做差，得到全局对抗噪声；利用全局对抗噪声与显著掩膜的Hadamard乘积来获取显著区域内的对抗噪声，并通过结合对抗噪声与原始图像来得到最终输出的显著区域对抗样本。本发明能够提升生成样本质量，便于测试和提升图像分类模型的安全性和鲁棒性。

公开(公告)号：CN115527084A

公开(公告)日：2022-12-27

申请号：CN202211192096.7

申请日：2022-09-28

Applicant: 中国人民解放军战略支援部队信息工程大学

Inventor： 张恒巍 ,  李哲铭 ,  米岩 ,  张晓宁 ,  李晨蔚 ,  杨博 ,  王晋东 ,  谭晶磊 ,  刘小虎 ,  张玉臣

IPC: G06V10/774 ,  G06V10/776 ,  G06V10/82

Abstract: 本发明属于图像模型评估技术领域，特别涉及一种基于多样化输入策略的智能系统对抗样本生成方法及系统，首先，收集图像变换方法，并依据收集的图像变换方法来构建数据增强方法集；从数据增强方法集中选取若干图像变换方法组成数据增强策略集合；针对原始图像样本数据，利用数据增强策略集合中的图像变换方法分别进行图像变换，得到批次变换后的图像增强数据；利用图像分类模型获取各图像变换方法对应的图像增强数据的梯度值，通过对梯度值进行加权平均来获取对抗扰动噪声，利用对抗扰动噪声生成对抗样本。本发明利用不同图像变换方法的多次随机变换进行图像数据增强，并利用模型梯度值来计算对抗样本中的扰动噪声，提高数据增强变换种类和输入图像数量的多样性，有效缓解“过拟合”现象，提高对抗样本的黑盒攻击能力。