公开(公告)号：CN118468980A

公开(公告)日：2024-08-09

申请号：CN202410504411.8

申请日：2024-04-25

Applicant: 浙江大学

Inventor： 徐文渊 ,  冀晓宇 ,  程雨诗 ,  吴之昊 ,  周秉谦

IPC: G06N3/094 ,  G06N3/096 ,  G06N3/082 ,  G06N3/045 ,  G06N3/0464 ,  G06N3/048

Abstract: 本发明公开了一种基于多模型平衡的对抗样本可迁移性增强方法及系统，涉及信息安全领域。获取待优化的对抗样本图像及其目标图像，指定一系列代理模型；每个代理模型读入当前对抗样本图像并执行前向传播过程，并计算相似度损失；对指定代理模型的相似度损失进行权值平衡，计算权值平衡后的损失对于当前对抗样本图像的梯度，更新当前对抗样本图像；计算更新后的对抗样本图像在每个代理模型上相对于目标图像的相似度，若每个代理模型对应的相似度均超过阈值，则将当前对抗样本图像作为优化结果输出，否则对代理模型执行使用神经元随机失活来增强对抗样本迁移性。本发明可以提高对抗样本在黑盒迁移后的测试效果。