-
公开(公告)号:CN113222960B
公开(公告)日:2022-06-03
申请号:CN202110584110.7
申请日:2021-05-27
Applicant: 哈尔滨工程大学
Abstract: 基于特征去噪的深度神经网络对抗防御方法、系统、存储介质及设备,属于基于图像的深度学习对抗样本防御领域。为了解决目前使用空间域滤波进行特征去噪的对抗样本防御方法存在去噪不彻底的问题,进而导致对抗样本防御效果不佳的问题。发明设计含有至少一个特征去噪模块的神经网络模型,所述的特征去噪模块包括1x1卷积、残差连接单元和去噪操作单元,去噪操作先对模型中间层特征图进行离散小波变换,将有用信息和噪声信息进行分离,然后对包含噪声信息的高频分量进行频率域滤波和空间域滤波相结合的去噪处理,最后再重构特征图。本发明的方法在对抗训练下,可以显著提升面对对抗样本攻击时的对抗鲁棒性。主要用于图形的深度神经网络对抗防御。
-
公开(公告)号:CN114254618B
公开(公告)日:2024-09-20
申请号:CN202111525656.1
申请日:2021-12-14
Applicant: 哈尔滨工程大学
IPC: G06F40/20 , G06N3/045 , G06N3/0464 , G06N3/0475 , G06N3/094 , G06N5/04
Abstract: 基于动态路由注意力机制的视觉问答方法、存储介质及设备,属于自然语言处理技术领域。为了解决现有的引入了多层注意力的问答模型由于参数量过多,从而导致了训练时长,甚至梯度消失的问题。本发明将图像I和文本问题Q输入视觉问答模型以获得问答答案;视觉问答模型包括:对图像和文本问题进行特征提取的特征提取单元、使用动态路由的方式分别以文本问题特征、视觉特征作为参考向量和特征矩阵在图像中进行注意力权重的更新,根据注意力权重分布获取到图像中的输出向量的动态路由注意力网络单元,以及将获取到的输出向量输入到两层全连接层进行特征转换,然后通过预测层对问题的答案进行预测的答案预测单元。本发明主要用于视觉问答。
-
公开(公告)号:CN114254618A
公开(公告)日:2022-03-29
申请号:CN202111525656.1
申请日:2021-12-14
Applicant: 哈尔滨工程大学
Abstract: 基于动态路由注意力机制的视觉问答方法、存储介质及设备,属于自然语言处理技术领域。为了解决现有的引入了多层注意力的问答模型由于参数量过多,从而导致了训练时长,甚至梯度消失的问题。本发明将图像I和文本问题Q输入视觉问答模型以获得问答答案;视觉问答模型包括:对图像和文本问题进行特征提取的特征提取单元、使用动态路由的方式分别以文本问题特征、视觉特征作为参考向量和特征矩阵在图像中进行注意力权重的更新,根据注意力权重分布获取到图像中的输出向量的动态路由注意力网络单元,以及将获取到的输出向量输入到两层全连接层进行特征转换,然后通过预测层对问题的答案进行预测的答案预测单元。本发明主要用于视觉问答。
-
公开(公告)号:CN113222960A
公开(公告)日:2021-08-06
申请号:CN202110584110.7
申请日:2021-05-27
Applicant: 哈尔滨工程大学
Abstract: 基于特征去噪的深度神经网络对抗防御方法、系统、存储介质及设备,属于基于图像的深度学习对抗样本防御领域。为了解决目前使用空间域滤波进行特征去噪的对抗样本防御方法存在去噪不彻底的问题,进而导致对抗样本防御效果不佳的问题。发明设计含有至少一个特征去噪模块的神经网络模型,所述的特征去噪模块包括1x1卷积、残差连接单元和去噪操作单元,去噪操作先对模型中间层特征图进行离散小波变换,将有用信息和噪声信息进行分离,然后对包含噪声信息的高频分量进行频率域滤波和空间域滤波相结合的去噪处理,最后再重构特征图。本发明的方法在对抗训练下,可以显著提升面对对抗样本攻击时的对抗鲁棒性。主要用于图形的深度神经网络对抗防御。
-
-
-