公开(公告)号：CN113361611A

公开(公告)日：2021-09-07

申请号：CN202110650604.0

申请日：2021-06-11

Applicant: 南京大学

Inventor： 王崇骏 ,  钱树伟 ,  刘振东 ,  罗宏涛 ,  张雷

IPC: G06K9/62 ,  G06N3/063 ,  G06N3/08

Abstract: 本发明提出了一种众包任务下的鲁棒分类器训练方法，使得训练得到的分类器结果更加鲁棒，在一定程度上可以抵御恶意对抗样本的攻击。本发明首先通过训练一个自动编码器，学习输入样例在隐空间上的表示。将输入投影到隐空间上后，进行两种处理并将损失与正常分类损失一起进行联合对抗训练，得到基本分类器f。鲁棒分类器g通过对输入样例加上高斯噪声扰动，利用蒙特卡罗方法不断查询基本分类器f，输出基本分类器输出最高的概率类别c。本发明还是一种可证明的防御，因而可以用在对安全性要求较高的任务中，在给定的安全范围内保证不会被恶意对抗样本攻击成功。

公开(公告)号：CN113361611B

公开(公告)日：2023-12-12

申请号：CN202110650604.0

申请日：2021-06-11

Applicant: 南京大学

Inventor： 王崇骏 ,  钱树伟 ,  刘振东 ,  罗宏涛 ,  张雷

IPC: G06F30/27

Abstract: 本发明提出了一种众包任务下的鲁棒分类器训练方法，使得训练得到的分类器结果更加鲁棒，在一定程度上可以抵御恶意对抗样本的攻击。本发明首先通过训练一个自动编码器，学习输入样例在隐空间上的表示。将输入投影到隐空间上后，进行两种处理并将损失与正常分类损失一起进行联合对抗训练，得到基本分类器f。鲁棒分类器g通过对输入样例加上高斯噪声扰动，利用蒙特卡罗方法不断查询基本分类器f，输出基本分类器输出最高的概率类别c。本发明还是一种可证明的防御，因而可以用在对安全性要求较高的任务中，在给定的安全范围内保证不会被恶意对抗样本攻击成功。