公开(公告)号：CN114969728A

公开(公告)日：2022-08-30

申请号：CN202210628270.1

申请日：2022-06-06

Applicant: 北京邮电大学

Inventor： 刘浩瀚 ,  左兴权 ,  黄海 ,  陈浩杰

IPC: G06F21/55 ,  G06N3/04 ,  G06N3/08 ,  G06F17/16

Abstract: 本发明提供了一种基于热力图的神经网络攻击方法，属于人工智能安全技术领域。本发明方法包括：利用要对抗攻击的神经网络模型对输入图像分类，获得图像对于类别的热力图；根据热力图和选取阈值获取二值化矩阵，矩阵中取值为1的区域为重要区域；采用单次攻击或迭代攻击生成对抗样本；单次攻击方式下，添加一次扰动来生成对抗样本；迭代攻击方式下，每次迭代添加一次扰动，逐步生成对抗样本，总体扰动会更小。本发明方法解决了目前全局攻击中扰动过大，易被人眼识别的不足，使得生成的对抗样本更加高效，经实验证明，在成功率相似的前提下，本发明方法的扰动范数大小、峰值信噪比和结构相似度衡量指标相比现有全局方法均有显著提升。

公开(公告)号：CN114969728B

公开(公告)日：2024-06-07

申请号：CN202210628270.1

申请日：2022-06-06

Applicant: 北京邮电大学

Inventor： 刘浩瀚 ,  左兴权 ,  黄海 ,  陈浩杰

IPC: G06F21/55 ,  G06N3/0464 ,  G06N3/084 ,  G06F17/16

Abstract: 本发明提供了一种基于热力图的神经网络攻击方法，属于人工智能安全技术领域。本发明方法包括：利用要对抗攻击的神经网络模型对输入图像分类，获得图像对于类别的热力图；根据热力图和选取阈值获取二值化矩阵，矩阵中取值为1的区域为重要区域；采用单次攻击或迭代攻击生成对抗样本；单次攻击方式下，添加一次扰动来生成对抗样本；迭代攻击方式下，每次迭代添加一次扰动，逐步生成对抗样本，总体扰动会更小。本发明方法解决了目前全局攻击中扰动过大，易被人眼识别的不足，使得生成的对抗样本更加高效，经实验证明，在成功率相似的前提下，本发明方法的扰动范数大小、峰值信噪比和结构相似度衡量指标相比现有全局方法均有显著提升。