-
公开(公告)号：CN112734039A
公开(公告)日：2021-04-30
申请号：CN202110352167.4
申请日：2021-03-31
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种深度神经网络的虚拟对抗训练方法、装置及设备，该方法包括：将多个自然样本输入给深度神经网络模型的第一子网络，得到多个自然样本对应的多个初始特征向量；从多个初始特征向量中选取种子特征向量和非种子特征向量；针对每个种子特征向量，基于种子特征向量和种子特征向量对应的扰动向量，生成种子特征向量对应的虚拟对抗特征向量；将所有虚拟对抗特征向量和所有非种子特征向量输入给深度神经网络模型的第二子网络，得到多个自然样本对应的多个目标特征向量；基于多个目标特征向量对深度神经网络模型的参数进行更新。通过本申请的技术方案，提高深度神经网络模型对于攻击样本的抗干扰能力，提高深度神经网络模型的可靠性。
-
公开(公告)号：CN119274022A
公开(公告)日：2025-01-07
申请号：CN202411795681.5
申请日：2024-12-06
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/774 , G06V10/82 , G06N3/084 , G06N3/094
Abstract: 本申请实施例提供了一种基于扩散处理的洁净对抗训练、对抗样本生成方法及设备，涉及人工智能技术领域，上述洁净对抗样本生成方法包括：对原始样本和第一噪声进行扩散处理，得到第一带噪样本；使用待训练模型处理原始样本，得到第一结果；使用待训练模型处理第一带噪样本，得到第二结果；基于第一结果和第二结果，获得第一带噪样本相对于原始样本的噪声散度；基于噪声散度和第一带噪样本，生成第二噪声，对第一带噪样本和第二噪声进行叠加，得到第二带噪样本；对第二带噪样本进行逆扩散处理，从第二带噪样本去除分离噪声；基于噪声去除结果，获得对抗样本。应用本申请实施例提供的方案，能够生成对抗训练的过程中需要使用的对抗样本。
-
公开(公告)号：CN114724014B
公开(公告)日：2023-06-30
申请号：CN202210630379.9
申请日：2022-06-06
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/776 , G06V10/82 , G06V10/774 , G06N3/094 , G06N3/096 , G06N3/08
Abstract: 本申请提供一种基于深度学习的对抗样本攻击检测方法、装置及电子设备，该方法包括：利用优化的基于动量迭代梯度方式，生成干净样本对应的对抗样本；依据所述干净样本对应的对抗样本确定深度神经网络模型的防攻击性能评估结果。该方法可以更有效地对深度神经网络模型的防攻击性能进行评估。
-
Patent Agency Ranking
公开(公告)号：CN116129884A
公开(公告)日：2023-05-16
申请号：CN202310348234.4
申请日：2023-03-29
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G10L15/04 , G10L15/06 , G10L15/22 , G10L21/0232
Abstract: 本申请提供一种基于敏感频段调节的语音对抗样本防御方法、装置及设备，该方法包括：获取待识别音频数据；依据目标智能语音识别模型的敏感频段，对所述待识别音频数据进行敏感频段滤波处理，得到处理后的音频数据；在第一语音识别结果与第二语音识别结果不一致的情况下，确定所述待识别音频数据为语音对抗样本，并拒绝对所述第一语音识别结果进行响应。该方法可以实现对语音对抗样本的有效检测和攻击防御，并降低对目标智能语音识别模型的正常语音识别的影响。
-
公开(公告)号：CN114567511B
公开(公告)日：2022-08-19
申请号：CN202210404385.2
申请日：2022-04-18
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请实施例公开了一种基于宽度学习的轻量级恶意流量检测方法及装置。本申请中采用具有线性特征数据和非线性特征数据的目标训练数据X训练初始流量检测分类模型，使得训练模型时采用的神经网络的宽度会更宽，进而使得训练模型时也不需要多层连接的神经网络，所以初始流量检测分类模型的训练过程中的计算量将会更小、训练速度也会更快，对设备的要求也会比较低，更适用于具备有限资源的物联网设备。同时本方案训练得到的目标流量检测分类模型对恶意流量的检测速度也更快，可以满足恶意流量检测的实时性要求。以及由于本方案应用于更靠近物联网中执行业务的各物联网设备的边缘网关设备，可以更及时地通知物联网设备阻断恶意流量。
-
公开(公告)号：CN114724014A
公开(公告)日：2022-07-08
申请号：CN202210630379.9
申请日：2022-06-06
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06V10/776 , G06V10/82 , G06N3/04 , G06K9/62
Abstract: 本申请提供一种基于深度学习的对抗样本攻击检测方法、装置及电子设备，该方法包括：利用优化的基于动量迭代梯度方式，生成干净样本对应的对抗样本；依据所述干净样本对应的对抗样本确定深度神经网络模型的防攻击性能评估结果。该方法可以更有效地对深度神经网络模型的防攻击性能进行评估。
-
公开(公告)号：CN114548428A
公开(公告)日：2022-05-27
申请号：CN202210404405.6
申请日：2022-04-18
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请提供一种基于实例重构的联邦学习模型智能攻击检测方法及装置，该方法包括：获取目标客户端上传的梯度；依据所述目标客户端上传的梯度，提取所述梯度所对应的训练数据的类别标签；依据所述类别标签，利用条件式解码器，生成所述目标客户端的训练数据的目标实例表示；利用本轮全局模型，对所述目标实例表示进行优化更新，得到重构训练数据；依据所述重构训练数据与所述目标客户端的训练数据的相似度，确定模型的防攻击性能评估结果。该方法可以实现更有效地模型防攻击性能评估。
-
公开(公告)号：CN114091597A
公开(公告)日：2022-02-25
申请号：CN202111350578.6
申请日：2021-11-15
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06K9/62 , G06N3/04 , G06N3/08 , G06V10/774 , G06V10/764
Abstract: 本申请提供一种基于自适应组样本扰动约束的对抗训练方法、装置及设备，该方法包括：将训练图像输入给初始网络模型，得到训练图像对应的网络输出向量和预测类别；若基于预测类别和训练图像的实际类别确定训练图像的分类结果为错误，将训练图像确定为自然样本图像；若基于预测类别和实际类别确定训练图像的分类结果为正确，基于网络输出向量确定训练图像对应的目标自适应组；基于目标自适应组对应的目标样本扰动约束确定训练图像对应的目标扰动向量，基于目标扰动向量和训练图像生成扰动样本图像；基于自然样本图像和扰动样本图像对初始网络模型进行训练，得到目标网络模型。通过本申请的技术方案，显著提高目标网络模型对于攻击样本的抗干扰能力。
-
-
-
-
-
-
-
Search Results
28
records
(took 0.043 seconds)
