公开(公告)号：CN117437454A

公开(公告)日：2024-01-23

申请号：CN202311088790.9

申请日：2023-08-28

Applicant: 北京理工大学 ,  北京市公安局

Inventor： 王亚杰 ,  杜宏波 ,  蔡瑜坤 ,  王东明 ,  辛铮 ,  孔凡真 ,  徐佳乐 ,  周慧鹏 ,  李元章 ,  谭毓安

IPC: G06V10/764 ,  G06V10/82 ,  G06V10/774 ,  G06V10/30 ,  G06V10/26 ,  G06N3/0464 ,  G06N3/047 ,  G06N3/094

Abstract: 本发明涉及一种提升对抗样本黑盒转移性的攻击方法，属于深度学习安全技术领域。主要解决基于自注意机制的网络模型上生成的对抗样本在黑盒场景下攻击未知结构模型时成功率低的问题。本发明通过将注意力层的输入嵌入补丁数据进行随机重组，重组后的嵌入补丁使自注意机制能够获得更多不同的补丁块之间的联系，避免在某些补丁块上的过拟合现象，并帮助自注意机制将感兴趣的区域维持在物体上，最终生成具有高转移性的对抗样本。该方法适用于任何基于自注意机制的网络和基于梯度转移性的攻击方法。该方法能够大幅度提升基于自注意机制的网络模型生成的对抗样本在黑盒场景下面临未知结构模型时的转移性。

公开(公告)号：CN113159317B

公开(公告)日：2022-10-21

申请号：CN202110435216.0

申请日：2021-04-22

Applicant: 北京理工大学

Inventor： 张全新 ,  周慧鹏 ,  王亚杰 ,  张耀元 ,  李元章 ,  谭毓安

IPC: G06N3/08 ,  G06N3/04 ,  G06V10/82 ,  G06V10/774 ,  G06V10/776 ,  G06V10/74 ,  G06V40/16

Abstract: 本发明涉及一种基于动态残差侵蚀的对抗样本生成方法，属于深度学习安全技术领域，主要用于解决现有技术对于提升对抗样本转移性效果甚微，攻击未知黑盒模型成功率低等技术问题。本发明通过动态侵蚀残差网络模型的残差块结构反向传播时的梯度(EGM)信息，达到生成对抗样本时的梯度多样性。同时，提出了一种新的Corrasion Attack攻击方法并与EGM侵蚀机制相结合，能够大幅度提升对抗样本的转移性，提升了攻击成功率。

公开(公告)号：CN113159317A

公开(公告)日：2021-07-23

申请号：CN202110435216.0

申请日：2021-04-22

Applicant: 北京理工大学

Inventor： 张全新 ,  周慧鹏 ,  王亚杰 ,  张耀元 ,  李元章 ,  谭毓安

IPC: G06N3/08 ,  G06N3/04 ,  G06K9/62 ,  G06K9/00

Abstract: 本发明涉及一种基于动态残差侵蚀的对抗样本生成方法，属于深度学习安全技术领域，主要用于解决现有技术对于提升对抗样本转移性效果甚微，攻击未知黑盒模型成功率低等技术问题。本发明通过动态侵蚀残差网络模型的残差块结构反向传播时的梯度(EGM)信息，达到生成对抗样本时的梯度多样性。同时，提出了一种新的Corrasion Attack攻击方法并与EGM侵蚀机制相结合，能够大幅度提升对抗样本的转移性，提升了攻击成功率。