公开(公告)号：CN117437454A

公开(公告)日：2024-01-23

申请号：CN202311088790.9

申请日：2023-08-28

Applicant: 北京理工大学 ,  北京市公安局

Inventor： 王亚杰 ,  杜宏波 ,  蔡瑜坤 ,  王东明 ,  辛铮 ,  孔凡真 ,  徐佳乐 ,  周慧鹏 ,  李元章 ,  谭毓安

IPC: G06V10/764 ,  G06V10/82 ,  G06V10/774 ,  G06V10/30 ,  G06V10/26 ,  G06N3/0464 ,  G06N3/047 ,  G06N3/094

Abstract: 本发明涉及一种提升对抗样本黑盒转移性的攻击方法，属于深度学习安全技术领域。主要解决基于自注意机制的网络模型上生成的对抗样本在黑盒场景下攻击未知结构模型时成功率低的问题。本发明通过将注意力层的输入嵌入补丁数据进行随机重组，重组后的嵌入补丁使自注意机制能够获得更多不同的补丁块之间的联系，避免在某些补丁块上的过拟合现象，并帮助自注意机制将感兴趣的区域维持在物体上，最终生成具有高转移性的对抗样本。该方法适用于任何基于自注意机制的网络和基于梯度转移性的攻击方法。该方法能够大幅度提升基于自注意机制的网络模型生成的对抗样本在黑盒场景下面临未知结构模型时的转移性。