公开(公告)号：CN113297547B

公开(公告)日：2022-07-08

申请号：CN202110564333.7

申请日：2021-05-24

Applicant: 上海大学

Inventor： 刘琦 ,  孙广玲 ,  陆小锋 ,  胡浩棋 ,  孔志浩 ,  毛建华

IPC: G06F21/16 ,  G06T1/00 ,  G06N3/08 ,  G06T3/40

Abstract: 本发明涉及一种数据集的后门水印添加方法、验证方法及系统，属于人工智能安全领域，采用超分辨率技术作为后门水印模式添加在部分训练样本中，并将部分训练样本的标签指定为特定类别，与良性样本共同组成后门数据集，从而验证数据集是否被盗用，相比于现有的方案，本发明的方案在注入率较低的情况下就能达到很高的水印成功率，而且不会影响数据集的正常使用。

公开(公告)号：CN113627597B

公开(公告)日：2023-10-13

申请号：CN202110922756.1

申请日：2021-08-12

Applicant: 上海大学

Inventor： 胡浩棋 ,  孙广玲 ,  陆小锋 ,  张天行 ,  钟宝燕

IPC: G06N3/0464 ,  G06N3/045 ,  G06N3/0475 ,  G06N3/084 ,  G06N3/094

Abstract: 本发明提供一种基于通用扰动的对抗样本生成方法及系统，属于机器学习领域，对抗样本生成方法包括：获取训练样本集；随机初始化一个与ViT模型的输出图像尺寸相同的初始扰动图像；ViT模型包括多个相同的单元，每个单元均包括多个注意力算子；根据训练样本集及ViT模型的各注意力算子，对初始扰动图像进行迭代优化，得到最佳通用扰动图像；将最佳通用扰动线性加在待训练样本集中的样本图像中，得到对应的终极对抗图像。在不影响视觉效果的前提下将正常的训练样本转化为对抗样本，采用最终的对抗样本对ViT模型进行训练，可以提高模型的抗干扰能力和鲁棒性。

公开(公告)号：CN113627597A

公开(公告)日：2021-11-09

申请号：CN202110922756.1

申请日：2021-08-12

Applicant: 上海大学

Inventor： 胡浩棋 ,  孙广玲 ,  陆小锋 ,  张天行 ,  钟宝燕

IPC: G06N3/04 ,  G06N3/08

Abstract: 本发明提供一种基于通用扰动的对抗样本生成方法及系统，属于机器学习领域，对抗样本生成方法包括：获取训练样本集；随机初始化一个与ViT模型的输出图像尺寸相同的初始扰动图像；ViT模型包括多个相同的单元，每个单元均包括多个注意力算子；根据训练样本集及ViT模型的各注意力算子，对初始扰动图像进行迭代优化，得到最佳通用扰动图像；将最佳通用扰动线性加在待训练样本集中的样本图像中，得到对应的终极对抗图像。在不影响视觉效果的前提下将正常的训练样本转化为对抗样本，采用最终的对抗样本对ViT模型进行训练，可以提高模型的抗干扰能力和鲁棒性。

公开(公告)号：CN113297547A

公开(公告)日：2021-08-24

申请号：CN202110564333.7

申请日：2021-05-24

Applicant: 上海大学

Inventor： 刘琦 ,  孙广玲 ,  陆小锋 ,  胡浩棋 ,  孔志浩 ,  毛建华

IPC: G06F21/16 ,  G06T1/00 ,  G06N3/08 ,  G06T3/40

Abstract: 本发明涉及一种数据集的后门水印添加方法、验证方法及系统，属于人工智能安全领域，采用超分辨率技术作为后门水印模式添加在部分训练样本中，并将部分训练样本的标签指定为特定类别，与良性样本共同组成后门数据集，从而验证数据集是否被盗用，相比于现有的方案，本发明的方案在注入率较低的情况下就能达到很高的水印成功率，而且不会影响数据集的正常使用。