公开(公告)号：CN117079053A

公开(公告)日：2023-11-17

申请号：CN202311115161.0

申请日：2023-08-31

Applicant: 中国人民解放军战略支援部队信息工程大学

Inventor： 张恒巍 ,  杨博 ,  尹衡 ,  李晨蔚 ,  耿致远 ,  王晋东 ,  蔡国明 ,  徐开勇

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明涉及图像识别技术领域，特别涉及一种基于梯度平均的人工智能图像识别对抗攻击方法及系统，通过在迭代优化中对原始输入样本进行多次图像变换并获取多个图像变换后的图像样本；利用预训练的模型获取对变换后图像样本的模型输出，并基于目标损失函数得到模型输出与原始样本集中样本输入真实标签两者的交叉熵，利用交叉熵损失求解变换后图像样本的梯度，并计算多个变换后图像样本梯度的平均值，利用该梯度平均值求解对抗扰动，并在下一轮迭代优化中将对抗扰动添加至原始输入样本，以通过迭代优化来生成用于对模型进行对抗攻击的对抗样本。本发明通过梯度取平均来减轻随机性过大的影响，生成更具迁移性的对抗样本。

公开(公告)号：CN113591975A

公开(公告)日：2021-11-02

申请号：CN202110865402.8

申请日：2021-07-29

Applicant: 中国人民解放军战略支援部队信息工程大学

Inventor： 张恒巍 ,  尹衡 ,  刘小虎 ,  张玉臣 ,  王衡军 ,  王晋东 ,  谭晶磊

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明属于计算机视觉图像识别技术领域，特别涉及一种基于Adam算法的对抗样本生成方法及系统，收集用于视觉图像分类识别的样本数据，该样本数据中包含输入图像、与输入图像对应的标签数据；构建用于对抗样本生成的神经网络模型；针对样本数据，利用无穷范数对样本数据中的输入图像和生成的对抗样本两者之间的对抗扰动进行限制，对神经网络模型损失函数进行优化，利用Adam算法对优化模型进行迭代求解，在对抗样本迭代求解中使用衰减步长并通过最大化模型的目标损失函数来生成对抗样本。本发明利用衰减步长增加对抗样本在模型之间的迁移性来获取较高质量的对抗样本，有助于提高深度学习分类模型鲁棒性，能够有效保障视觉图像分类识别的质量和效率。