公开(公告)号：CN118537630A

公开(公告)日：2024-08-23

申请号：CN202410577561.1

申请日：2024-05-10

Applicant: 武汉软件工程职业学院(武汉开放大学)

Inventor： 黄林荃 ,  张新华 ,  田雨川 ,  段雪琦

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/0464 ,  G06F21/55 ,  G06N3/088

Abstract: 本发明提供一种无监督对抗样本检测方法，结合图像变换前后的模型SoftMax分布统计差异和计算图像变换前后热力图之间的距离来检测对抗样本；发明整体方案框架，其核心思想是采用Grad‑CAM方法绘制样本在神经网络中的热力图，结合计算变换前后图像的概率数组的MSE距离与热力图关注点变化距离，通过孤立森林异常检测器来判断是否是对抗样本；相比与传统检测方法，在高质量数据集上能够检测的攻击方法增加，同时不需要对抗样本进行模型训练，开销较小。本发明提供了一种新的对抗样本检测方法，具有较高的准确性和鲁棒性，适用于保护深度神经网络模型免受对抗攻击，并为进一步研究和改进对抗样本检测技术提供了有价值的参考。