针对视觉模型的处理方法及装置

    公开(公告)号:CN113792791A

    公开(公告)日:2021-12-14

    申请号:CN202111077159.X

    申请日:2021-09-14

    Abstract: 本公开提供了一种针对视觉模型的处理方法,涉及人工智能领域,尤其涉及自动驾驶、深度学习和计算机视觉等技术领域,可用于视觉模型的鲁棒性评估场景。具体实现方案为:利用对抗样本中的每个样本图像对目标视觉模型进行攻击,其中,通过在数据集中每个原始图像的阴影区域内增加对抗性扰动,以得到与对抗样本中的每个样本图像;统计对抗样本对目标视觉模型的攻击成功率;以及基于攻击成功率,对目标视觉模型进行鲁棒性评估。

    基于遗传算法的攻击方法、装置及计算机程序产品

    公开(公告)号:CN114511756A

    公开(公告)日:2022-05-17

    申请号:CN202210087242.3

    申请日:2022-01-25

    Abstract: 本公开提供了一种基于遗传算法的攻击方法、装置、电子设备、存储介质及计算机程序产品,涉及人工智能技术领域,具体涉及计算机视觉、图像识别和深度学习技术,可用于对抗攻击场景下。具体实现方案为:获取目标图像;从初始扰动范围开始,采用遗传算法,在当前扰动范围内基于目标图像确定目标模型的对抗样本,并在未成功确定对抗样本的情况下增加扰动范围以继续对目标模型进行对抗攻击,直至达到预设结束条件;确定基于攻击目标模型而最终得到的攻击数据。本公开可以有效解决直接在较大扰动范围内攻击目标模型而造成的计算成本高、对抗样本的确定效率低的问题,提高了攻击效率。

Patent Agency Ranking