-
公开(公告)号：CN112232434B
公开(公告)日：2024-02-20
申请号：CN202011180916.1
申请日：2020-10-29
Applicant: 浙江工业大学
IPC: G06V20/00 , G06V10/764 , G06V10/82 , G06N3/094
Abstract: 本发明公开一种基于相关性分析的对抗攻击协同防御方法及装置，包括：(1)获取每种攻击方法对应的对抗图像；(2)利用多种防御方法分别作用深度学习模型得到多个防御模型；(3)根据任意两个防御模型的预测置信度，计算任意两个防御模型之间的第一散度相关性；(4)根据任意一个防御模型的预测置信度和深度学习模型的预测置信度，计算任意一个防御模型与深度学习模型之间的第二散度相关性；(5)确定最大第一散度相关性对应的两个防御模型后，选择该两个防御模型对应的两个第二散度相关性，从两个第二散度相关性中选择较大者和较小者对应的防御模型依次进行对抗攻击防御识别。能够选择快速高效地防御方法来对抗防御攻击。
-
公开(公告)号：CN112215780A
公开(公告)日：2021-01-12
申请号：CN202011175112.2
申请日：2020-10-28
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于类特征修复融合的图像取证对抗性攻击防御方法，包括：将含有对抗扰动的原始图像输入至基于卷积神经网络构建的分类模型中，并对提取特征图进行类特征可视化，基于可视化结果获取重构区域后，对重构区域进行特征修复，获得修复图像；原始图像去噪处理后得到去噪图像，融合修复图像和去噪图像，得到融合图像，依据融合图像的像素分布特征，选择图像质量高的若干个分类区域输入至分类模型中，将分类模型输出的最高分类概率作为防御后的类标。该方法能够提高深度学习模型鲁棒性并准确还原取证信息。
-
公开(公告)号：CN115546545A
公开(公告)日：2022-12-30
申请号：CN202211211624.9
申请日：2022-09-30
Applicant: 浙江工业大学
IPC: G06V10/764 , G06V10/774 , G06F9/50 , G06N3/08
Abstract: 本发明公开了一种基于邻域影响函数的深度学习输入集优先级测试方法和装置，本发明采集干净测试图像样本集并训练深度学习模型；构建每一张对抗测试图像样本的隐藏层特征，并计算邻域影响函数，得到特征分布差异；构建并训练二元分类器，将对抗测试图像样本的特征分布差异输入训练后的二元分类器，输出相对应的置信度，并计算优先级值，实现对对抗测试图像样本集的有限级从小到大的排序。本发明在有限时间内，仅需要对排序靠前的样本进行定标，实现缩短测试时间的功能。该方法具有良好的适用性，能够有效的对测试级进行优先排序，在最短的时间内筛选出最可能导致模型出现潜在错误的样本。
-
公开(公告)号：CN115292719A
公开(公告)日：2022-11-04
申请号：CN202210985341.3
申请日：2022-08-17
Applicant: 浙江工业大学
IPC: G06F21/57 , G06V10/764 , G06V10/774 , G06V10/22 , G06V10/82 , G06N3/04 , G06N3/08
Abstract: 本发明公开一种面向深度模型供应链的多方协作的漏洞判定方法与装置，首先获取上游任务数据集，并对神经网络进行训练；对上游任务数据集进行中毒操作，得到中毒样本；并训练得到中毒模型，将中毒模型的输出作为中毒特征；利用中毒特征作为约束条件，训练上游预训练模型，若上游预训练模型的输出带有中毒特征，且没有被在线模型市场中的检测器检测到，则判定在线模型市场中的检测器存在漏洞；下游任务供应商下载预训练模型，并检查下游数据集，若下游任务供应商判定下游数据集不存在漏洞，则对预训练模型进行微调，将带有触发器的测试样本输入到预训练模型中，若其输出为误标记的类；则判定下游任务供应商先对下游数据集进行检查过程存在漏洞。
-
公开(公告)号：CN115169540A
公开(公告)日：2022-10-11
申请号：CN202210933327.9
申请日：2022-08-04
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于分布式类脑图的深度学习计算框架缺陷溯源方法，对待测的深度学习框架训练的卷积神经网络m0构建对应的分布式类脑图Gori；从卷积神经网络m0的每一层中提取关键神经元，得到关键神经元集合；并将关键神经元集合映射到分布式类脑图Gori上，去掉到分布式类脑图Gori中除关键神经元集合的节点和其连边，得到主元模块区Gpath；定义图指标；对主元模块区Gpath进行a次生长，得到a个次元模块区；获得重构模型；定位卷积神经网络m0的缺陷层；若卷积神经网络m0存在缺陷层，待测的深度学习框架的调用算子存在输出不一致的缺陷。该方法具有良好的适用性，能够有效发现计算框架中的潜在缺陷，并对其进行准确定位。
-
Patent Agency Ranking
公开(公告)号：CN113378988A
公开(公告)日：2021-09-10
申请号：CN202110762593.5
申请日：2021-07-06
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于粒子群算法的深度学习系统鲁棒性增强方法及装置，其中公开的方法的步骤为：获取图像数据集并整理分类为训练集和测试集；利用训练集进行对抗攻击预训练干净深度学习模型；构建鲁棒评估指标评估训练好的深度学习模型；构建零阶和一阶损失函数度量用于评估测试集与训练好的深度学习模型之间的关系；将一阶鲁棒性度量指标作为优化目标函数，从测试集中采集部分良性图像作为初始粒子并初始化粒子的位置和速度，以优化目标函数为最大目标采用粒子群优化算法对初始粒子的位置和速度进行迭代更新以生成测试样本；利用生成的测试样本与测试数据集重新训练深度学习模型获得鲁棒防御模型；对防御后模型受攻击的敏感性进行评估。
-
公开(公告)号：CN112884065A
公开(公告)日：2021-06-01
申请号：CN202110272000.7
申请日：2021-03-12
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于支持向量机的深度学习模型鲁棒边界评估方法、装置和应用，包括为用于分类任务的深度学习模型的每个分类类别分配一个支持向量机；将样本数据分别输入至深度学习模型和每个支持向量机，得到样本数据在深度学习模型和每个支持向量机的特征空间分布；针对每个支持向量机，以样本数据在支持向量机的特征空间分布与在深度学习模型的特征空间分布的散度指标作为损失函数优化支持向量机的参数；优化结束后，每个支持向量机的决策边界即为深度学习模型对与支持向量机对应的分类类别的决策边界，依据该决策边界实现对深度学习模型鲁棒边界评估，进而实现训练阶段深度学习模型的安全性评估与提升。
-
公开(公告)号：CN112232434A
公开(公告)日：2021-01-15
申请号：CN202011180916.1
申请日：2020-10-29
Applicant: 浙江工业大学
Abstract: 本发明公开一种基于相关性分析的对抗攻击协同防御方法及装置，包括：(1)获取每种攻击方法对应的对抗图像；(2)利用多种防御方法分别作用深度学习模型得到多个防御模型；(3)根据任意两个防御模型的预测置信度，计算任意两个防御模型之间的第一散度相关性；(4)根据任意一个防御模型的预测置信度和深度学习模型的预测置信度，计算任意一个防御模型与深度学习模型之间的第二散度相关性；(5)确定最大第一散度相关性对应的两个防御模型后，选择该两个防御模型对应的两个第二散度相关性，从两个第二散度相关性中选择较大者和较小者对应的防御模型依次进行对抗攻击防御识别。能够选择快速高效地防御方法来对抗防御攻击。
-
公开(公告)号：CN113488069B
公开(公告)日：2024-05-24
申请号：CN202110761504.5
申请日：2021-07-06
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于生成式对抗网络的语音高维特征快速提取方法和装置，包括：获取语音信号，采用数据增强技术对语音信号增加模拟噪声，以构建数据池；从语音信号中提取MFCC，提取的MFCC与基频特征叠加形成级联特征；构建包含生成器、判别器以及分类器的生成式对抗网络，其中生成器对输入语音信号进行高维特征提取，判别器对输入的级联特征和提取的高维特征进行特征真伪分辨，分类器对输入的高维特征进行语音分类；利用数据池中的语音信号对生成式对抗网络进行训练以优化网络参数，提取参数确定的生成器用于语音高维特征快速提取。该方法能够实现声音序列语音高维特征的高效提取。
-
公开(公告)号：CN113378988B
公开(公告)日：2024-02-13
申请号：CN202110762593.5
申请日：2021-07-06
Applicant: 浙江工业大学
IPC: G06V10/774 , G06V10/82 , G06V10/764 , G06N3/006 , G06N3/094 , G06N3/047
Abstract: 本发明公开了一种基于粒子群算法的深度学习系统鲁棒性增强方法及装置，其中公开的方法的步骤为：获取图像数据集并整理分类为训练集和测试集；利用训练集进行对抗攻击预训练干净深度学习模型；构建鲁棒评估指标评估训练好的深度学习模型；构建零阶和一阶损失函数度量用于评估测试集与训练好的深度学习模型之间的关系；将一阶鲁棒性度量指标作为优化目标函数，从测试集中采集部分良性图像作为初始粒子并初始化粒子的位置和速度，以优化目标函数为最大目标采用粒子群优化算法对初始粒子的位置和速度进行迭代更新以生成测试样本；利用生成的测试样本与测试数据集重新训练深度学习模型获得鲁棒防御模型；对防御后模型受攻击的敏感性进行评估。
-
-
-
-
-
-
-
-
-
Search Results
25
records
(took 0.027 seconds)
