公开(公告)号：CN114757336B

公开(公告)日：2024-06-18

申请号：CN202210356023.0

申请日：2022-04-06

申请人： 西安交通大学

发明人： 蔺琛皓 ,  韩思聪 ,  沈超 ,  王骞

IPC分类号： G06F18/24 ,  G06N3/094

摘要： 本发明属于机器学习领域，公开了一种深度学习模型对抗攻击敏感频带检测方法，通过构造成功对抗扰动集并将成功对抗扰动集中的对抗扰动转换至频域，得到频域成功对抗扰动集并利用掩码操作将其中的对抗扰动的高频成分与低频成分分离，得到分离结果并根据分离结果和原始图像集，得到若干高频成功对抗样本集与若干低频成功对抗样本集；将若干高频成功对抗样本集与若干低频成功对抗样本集输入深度学习模型，统计深度学习模型在每个高频成功对抗样本集与每个低频成功对抗样本集上的分类准确率；进而结合预设的分类准确率上限阈值和分类准确率下限阈值，得到深度学习模型的对抗攻击敏感频带，能够准确定位深度学习模型的对抗攻击敏感频带。

公开(公告)号：CN114757336A

公开(公告)日：2022-07-15

申请号：CN202210356023.0

申请日：2022-04-06

申请人： 西安交通大学

发明人： 蔺琛皓 ,  韩思聪 ,  沈超 ,  王骞

IPC分类号： G06N3/04 ,  G06N3/08 ,  G06K9/62 ,  G06V10/764 ,  G06V10/82

摘要： 本发明属于机器学习领域，公开了一种深度学习模型对抗攻击敏感频带检测方法，通过构造成功对抗扰动集并将成功对抗扰动集中的对抗扰动转换至频域，得到频域成功对抗扰动集并利用掩码操作将其中的对抗扰动的高频成分与低频成分分离，得到分离结果并根据分离结果和原始图像集，得到若干高频成功对抗样本集与若干低频成功对抗样本集；将若干高频成功对抗样本集与若干低频成功对抗样本集输入深度学习模型，统计深度学习模型在每个高频成功对抗样本集与每个低频成功对抗样本集上的分类准确率；进而结合预设的分类准确率上限阈值和分类准确率下限阈值，得到深度学习模型的对抗攻击敏感频带，能够准确定位深度学习模型的对抗攻击敏感频带。