一种基于逐层相关性传播的对抗样本检测方法和装置
摘要:
本发明公开了一种基于逐层相关性传播的对抗样本检测方法和装置,包括:获取图像样本,利用图像样本训练深度学习模型;将良性图像样本输入至训练好的深度学习模型,并计算每个良性图像样本的相关性分数,其中,良性图像样本的相关性分数由像素点的相关性分数计算得到,像素点的相关性分数依据神经元的相关性,反向逐层传递计算得到;统计多数良性图像样本的相关性分数分布确定对抗样本的判别依据;将待测图像样本输入至训练好的深度学习模型,计算待测图像样本的相关性分数,依据判别依据检测待测图像样本是否为对抗样本。以实现对各类深度学习模型的各类对抗样本的快速准确检测。
0/0