公开(公告)号：CN114841983A

公开(公告)日：2022-08-02

申请号：CN202210556274.3

申请日：2022-05-17

Applicant: 中国信息通信研究院

Inventor： 景慧昀 ,  魏薇 ,  辛鑫 ,  周凡棣 ,  牛金行 ,  赵凯闻

IPC: G06T7/00 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种基于决策分数的图像对抗样本检测方法和系统。其中，方法包括：获取图像数据集并进行预处理，使用不同的模型结构对不同的数据集进行训练，选取各模型中的特定层以计算神经元的决策分数，针对不同的数据集，分别搭建不同的二元分类器，再应用各模型中的特定层计算出的决策分数，训练不同数据集对应的二元分类器，将对抗样本和良性样本的决策分数输入到训练好的二元分类器中进行测试，若分类精度不足，对二元分类器进行优化。本发明提出的方案，从模型内部神经元出发，通过少量样本计算模型的决策分数，训练简单的二元分类器，利用良性样本和对抗样本的决策分数差异，实现对抗样本的高精度、低成本检测。