公开(公告)号：CN113949558A

公开(公告)日：2022-01-18

申请号：CN202111199545.6

申请日：2021-10-14

Applicant: 北京计算机技术及应用研究所

Inventor： 郭敏 ,  王斌 ,  曾颖明 ,  杜锐 ,  马书磊 ,  李子菲 ,  方永强 ,  马晓军 ,  桓琦

IPC: H04L9/40 ,  G10L21/0208 ,  G10L25/03 ,  G10L25/30 ,  G06N3/08

Abstract: 本发明涉及一种物理世界下的语音通用扰动生成方法，涉及人工智能安全技术领域。主要步骤包括初始化音频数据和扰动数据；基于循环移位扩充当前扰动数据，并与音频数据合成得到当前扰动样本；将当前扰动样本分别进行滤波处理，得到滤波后的扰动样本；基于滤波后的扰动样本计算损失函数并进行反向传播；根据当前梯度信息与学习率更新当前扰动数据；根据目标样本攻击成功率与非目标样本识别准确率，判断扰动数据是否成功生成。本发明集成多条语音样本生成通用扰动，利用循环移位和滤波器产生能够在真实物理环境下欺骗语音识别模型，并通过双目标优化实现只对目标类产生攻击效果，而几乎不影响非目标类识别。