公开(公告)号：CN114912146A

公开(公告)日：2022-08-16

申请号：CN202210580625.4

申请日：2022-05-25

Applicant: 中国信息通信研究院

Inventor： 魏薇 ,  景慧昀 ,  周凡棣 ,  牛金行 ,  辛鑫 ,  赵凯闻

IPC: G06F21/62 ,  G06F21/60 ,  H04L9/00 ,  H04L9/40 ,  G06N20/00 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种垂直联邦架构下的数据信息防御方法、系统、电子设备及存储介质。其中，方法包括：构建了基于垂直联邦的深度学习框架，将真实网络数据集转换成嵌入并加密后上传至中央服务器，防止攻击者得到目标的上传信息从而导致隐私的泄露。本发明基于同态加密来对嵌入进行加密处理，在不断地学习训练的过程中加密嵌入，以达到攻击者无法成功获得真实信息。与其他方法相比，本发明具有防御能力强、对主要任务影响小等特点。

公开(公告)号：CN114912146B

公开(公告)日：2022-12-06

申请号：CN202210580625.4

申请日：2022-05-25

Applicant: 中国信息通信研究院

Inventor： 魏薇 ,  景慧昀 ,  周凡棣 ,  牛金行 ,  辛鑫 ,  赵凯闻

IPC: G06F21/62 ,  G06F21/60 ,  H04L9/00 ,  H04L9/40 ,  G06N20/00 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种垂直联邦架构下的数据信息防御方法、系统、电子设备及存储介质。其中，方法包括：构建了基于垂直联邦的深度学习框架，将真实网络数据集转换成嵌入并加密后上传至中央服务器，防止攻击者得到目标的上传信息从而导致隐私的泄露。本发明基于同态加密来对嵌入进行加密处理，在不断地学习训练的过程中加密嵌入，以达到攻击者无法成功获得真实信息。与其他方法相比，本发明具有防御能力强、对主要任务影响小等特点。

公开(公告)号：CN114841983B

公开(公告)日：2022-12-06

申请号：CN202210556274.3

申请日：2022-05-17

Applicant: 中国信息通信研究院

Inventor： 景慧昀 ,  魏薇 ,  辛鑫 ,  周凡棣 ,  牛金行 ,  赵凯闻

IPC: G06T7/00 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种基于决策分数的图像对抗样本检测方法和系统。其中，方法包括：获取图像数据集并进行预处理，使用不同的模型结构对不同的数据集进行训练，选取各模型中的特定层以计算神经元的决策分数，针对不同的数据集，分别搭建不同的二元分类器，再应用各模型中的特定层计算出的决策分数，训练不同数据集对应的二元分类器，将对抗样本和良性样本的决策分数输入到训练好的二元分类器中进行测试，若分类精度不足，对二元分类器进行优化。本发明提出的方案，从模型内部神经元出发，通过少量样本计算模型的决策分数，训练简单的二元分类器，利用良性样本和对抗样本的决策分数差异，实现对抗样本的高精度、低成本检测。

公开(公告)号：CN114841983A

公开(公告)日：2022-08-02

申请号：CN202210556274.3

申请日：2022-05-17

Applicant: 中国信息通信研究院

Inventor： 景慧昀 ,  魏薇 ,  辛鑫 ,  周凡棣 ,  牛金行 ,  赵凯闻

IPC: G06T7/00 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提出一种基于决策分数的图像对抗样本检测方法和系统。其中，方法包括：获取图像数据集并进行预处理，使用不同的模型结构对不同的数据集进行训练，选取各模型中的特定层以计算神经元的决策分数，针对不同的数据集，分别搭建不同的二元分类器，再应用各模型中的特定层计算出的决策分数，训练不同数据集对应的二元分类器，将对抗样本和良性样本的决策分数输入到训练好的二元分类器中进行测试，若分类精度不足，对二元分类器进行优化。本发明提出的方案，从模型内部神经元出发，通过少量样本计算模型的决策分数，训练简单的二元分类器，利用良性样本和对抗样本的决策分数差异，实现对抗样本的高精度、低成本检测。