公开(公告)号：CN111753880B

公开(公告)日：2023-06-27

申请号：CN202010463749.5

申请日：2020-05-27

Applicant: 华东师范大学 ,  上海工业控制安全创新科技有限公司

Inventor： 赵涌鑫 ,  蒋家威 ,  蒲戈光 ,  刘虹

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/0475 ,  G06N3/094

Abstract: 本发明了一种规避对抗样本攻击的图像分类方法，此方法基于区域分类，在图像分类中可以减轻对抗样本对分类器的攻击。本方法主要包含如下步骤：1、对图像进行建模，把图像看成是一个包含多个马尔科夫过程的结构体。2、对可能的对抗样本进行修正，在修正的时候，沿着图像转移概率(Image Transition Probability，ITP)减小的方向进行修改图像的像素值，特别的，当修改某个像素的值后，其ITP变化很大超过一定阈值，就舍弃这个像素值的改变。3、在采样的时候，进行有方向采样。本发明中，所提出的方法，不仅能在干净样本上保持其高分类准确率，并且在对抗样本上也能具有一定准确率。这种方法的提出，为深度学习模型在安全相关的应用领域中进行应用提供了思考和操作。

公开(公告)号：CN111753880A

公开(公告)日：2020-10-09

申请号：CN202010463749.5

申请日：2020-05-27

Applicant: 华东师范大学 ,  上海工业控制安全创新科技有限公司

Inventor： 赵涌鑫 ,  蒋家威 ,  蒲戈光 ,  刘虹

IPC: G06K9/62

Abstract: 本发明了一种规避对抗样本攻击的图像分类方法，此方法基于区域分类，在图像分类中可以减轻对抗样本对分类器的攻击。本方法主要包含如下步骤：1、对图像进行建模，把图像看成是一个包含多个马尔科夫过程的结构体。2、对可能的对抗样本进行修正，在修正的时候，沿着图像转移概率(Image Transition Probability，ITP)减小的方向进行修改图像的像素值，特别的，当修改某个像素的值后，其ITP变化很大超过一定阈值，就舍弃这个像素值的改变。3、在采样的时候，进行有方向采样。本发明中，所提出的方法，不仅能在干净样本上保持其高分类准确率，并且在对抗样本上也能具有一定准确率。这种方法的提出，为深度学习模型在安全相关的应用领域中进行应用提供了思考和操作。