公开(公告)号：CN119990248A

公开(公告)日：2025-05-13

申请号：CN202510054583.4

申请日：2025-01-14

Applicant: 哈尔滨工业大学 ,  中移物联网有限公司

Inventor： 王莘 ,  张兆阳 ,  李鹏宇 ,  闫義 ,  涵宋伟 ,  全建斌

IPC: G06N3/094 ,  G06N3/0464 ,  G06N3/0475 ,  G06N3/045 ,  G06N3/084 ,  G06F18/24

Abstract: 本发明提出面对未知变换鲁棒的对抗攻击方法，属于计算机视觉技术领域，解决了生成对抗样本过程中无法获知对抗样本在输入目标神经网络前将会经受何种干扰的问题具体包括：步骤1：对拟攻击的目标深度神经网络的输入数据集进行预处理，得到输入样本；步骤2：将输入样本划分为原始样本数据x和原始样本数据集S；步骤3：使用ERAA法对原始样本数据x进行处理得到邻域鲁棒的对抗样本x1，使用FRAA法对原始样本数据集S进行处理得到邻域鲁棒的对抗样本x2，实现未知变换操作的泛化的鲁棒性，其中ERAA为欧式空间中的变换鲁棒对抗攻击，FRAA为特征空间中的变换普适的鲁棒对抗攻击。

公开(公告)号：CN118351877A

公开(公告)日：2024-07-16

申请号：CN202410392998.8

申请日：2024-04-02

Applicant: 哈尔滨工业大学

Inventor： 王莘 ,  张兆阳 ,  姜训智

IPC: G10L25/27 ,  G10L25/48 ,  G10L17/06

Abstract: 针对深度学习说话人识别的实时语音信号对抗扰动方法，它涉及一种实时语音信号对抗扰动方法，本发明为解决现有的语音对抗性攻击方法无法有效地用于保护通信信号的问题，本发明包括如下步骤：步骤1：将流式信号的对抗性扰动生成构建为一个优化问题；步骤2：生成对抗性种子扰动；步骤3：使用预测性对抗性扰动生成器对生成的对抗性种子进行微调；步骤4：使用流处理器实现实时对抗信号生成。本发明利用观察到的语音信号生成并优化对抗扰动，并使用流式音频处理框架进行实时生成，有效地消除了延迟。该方法在保护语音信号的同时，保持了高感知质量。本发明属于人工智能安全技术领域。

公开(公告)号：CN119990249A

公开(公告)日：2025-05-13

申请号：CN202510054988.8

申请日：2025-01-14

Applicant: 哈尔滨工业大学 ,  中移物联网有限公司

Inventor： 王莘 ,  张兆阳 ,  李鹏宇 ,  闫義 ,  涵宋伟 ,  全建斌

IPC: G06N3/094 ,  G06N3/0464 ,  G06F18/24

Abstract: 本发明提出了基于梯度对齐的未知域对抗攻击方法，属于人工智能信息安全技术领域，解决了现有迁移对抗攻击在跨场景中的有效性显著降低的问题，具体包括：步骤1：获取源域数据集Ds；步骤2：在源域的数据集上使用#imgabs0#训练方法训练代理模型#imgabs1#步骤3：基于代理模型生成可迁移的有效对抗样本，对抗在目标数据集Dt训练的目标模型#imgabs2#完成对未知域的对抗攻击。发明使用多种后端攻击方法在代理模型上生成对抗样本，这允许本发明所提出的方法增强现有的转移攻击，使其适用于跨领域转移攻击。