公开(公告)号：CN115689942A

公开(公告)日：2023-02-03

申请号：CN202211439917.2

申请日：2022-11-17

Applicant: 中国人民解放军战略支援部队信息工程大学

Inventor： 扈红超 ,  路致平 ,  霍树民 ,  李舒意 ,  王亚文 ,  程国振 ,  梁浩 ,  刘文彦

IPC: G06T5/00

Abstract: 本发明提供一种基于随机和冗余机制的对抗样本检测方法及装置。该方法包括：随机对原始图像进行遮掩，根据遮掩后的剩余像素信息进行图像重建；重复上一步骤直至满足设定的重建次数N；将原始图像和N个重建图像输入至目标人工智能模型进行预测；判断N个重建图像的预测标签的不一致个数是否超过第一设定阈值，若是，则标记为对抗样本；反之，则继续执行下一步骤；计算N个重建图像属于各类标签时的预测概率平均值；若所有的预测概率平均值中的最大值低于第二设定阈值，则标记为对抗样本；反之，则继续执行下一步骤；判断N个重建图像的平均预测标签与原始图像的预测标签是否一致，若否则标记为对抗样本；反之，将原始图像标记为良性样本。