公开(公告)号：CN115187789A

公开(公告)日：2022-10-14

申请号：CN202210569952.X

申请日：2022-05-24

Applicant: 西安电子科技大学

Inventor： 李兴华 ,  汤佳伟 ,  章海燕 ,  许勐璠 ,  刘佼 ,  苗银宾 ,  张俊伟 ,  姜奇 ,  郭晶晶 ,  马建峰

IPC: G06V10/44 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/04

Abstract: 本发明公开了一种基于卷积层激活差异的对抗图像检测方法及装置，包括：获取待处理图像，并将待处理图像输入至图像分类模型；获取图像分类模型中预设卷积层输出的特征图，并确定特征图的激活比例；将激活比例输入检测模型后，根据检测模型的输出判断图像分类模型对待处理图像的分类结果是否存在异常；其中，检测模型为预先以正常图像及对抗样本在图像分类模型中的激活比例作为训练样本进行训练后，获得的全连接神经网络模型。本发明通过在图像分类模型的正常前向传播过程中进行特征图激活比例的计算，在几乎不会给线上应用造成时延的同时，使检测模型根据激活比例判断分类结果是否存在异常，从而对已上线的图像分类模型进行安全加固。