公开(公告)号：CN116958123A

公开(公告)日：2023-10-27

申请号：CN202311079921.7

申请日：2023-08-25

Applicant: 天津理工大学

Inventor： 周冕 ,  周冠华 ,  冯志坤 ,  睢泽洲 ,  李传辉 ,  许靖昆

IPC: G06T7/00 ,  G06V10/40 ,  G06V10/764 ,  G06V10/80

Abstract: 一种结合融合攻击的图像防御模型健壮度检测方法。为了方便评估图像防御模型面对来自恶意的对抗攻击时的健壮度，考虑到将多种攻击方法集合使用能大幅提高攻击的可迁移性，本发明设计了一种新型的融合攻击健壮度检测方法。首先，使用图像高频部分和原始图像生成融合图像，同时利用该图像初始化攻击起点方向；其次计算原始图像在目标模型下的梯度方向，使用动量迭代快速梯度符号方法以非目标攻击方式生成对抗样本；最后以动态的丢弃率丢弃始终无法攻击成功的对抗样本；最终攻击迭代次数用尽后防御模型的判别准确率即为其健壮度。实验证明，本发明通过相同固定的攻击轮次能够检测出不同对抗攻击防御模型的鲁棒性下限，揭露出模型面对的潜在风险。

公开(公告)号：CN117010481A

公开(公告)日：2023-11-07

申请号：CN202310957323.9

申请日：2023-08-01

Applicant: 天津理工大学

Inventor： 周冕 ,  冯志坤 ,  睢泽洲 ,  李传辉

IPC: G06N3/096 ,  G06N3/0495 ,  G06F18/2415 ,  G06F18/2321 ,  G06F123/02

Abstract: 一种跨任务信息交流的类增量方法，涉及人工智能的增量学习领域，在不花费巨大的计算和空间成本的情况下将深度网络模型应用到大量任务是目前暂未解决的问题。本方法通过两段式增量学习网络，使用跨任务聚类扩展的方法来调整目标和原始模型之间的残差群集空间，并通过蒸馏策略去除网络模型的冗余参数和特征维，保持其单一骨干。最后，使用一种用于解决高权重偏移的动态对齐权重方案，解决最后全连接层的权重偏移问题。实验证明，该方法能有效减少灾难性遗忘。