公开(公告)号：CN116401548A

公开(公告)日：2023-07-07

申请号：CN202310357028.X

申请日：2023-04-06

Applicant: 北京计算机技术及应用研究所 ,  西安电子科技大学

Inventor： 方永强 ,  李子菲 ,  郭敏 ,  张箐碚 ,  桓琦 ,  曾颖明 ,  张海宾

IPC: G06F18/214

Abstract: 本发明涉及一种基于经验模态分解的智能模型鲁棒性测试方法，属于人工智能模型鲁棒性判定技术领域。主要技术方案包括基于待测试智能模型，构建原始测试数据集；基于经验模态分解扩充原始测试数据集；计算不同分解程度下测试数据集的识别准确率、损失；计算智能模型识别准确率变化指标、识别损失变化指标。本发明的方法使用经验模态分解扩充采集得到原始测试数据集，并通过计算模型识别准确率与损失在不同分解程度下的变化趋势，能够对智能模型鲁棒性进行客观评价。

公开(公告)号：CN113949558A

公开(公告)日：2022-01-18

申请号：CN202111199545.6

申请日：2021-10-14

Applicant: 北京计算机技术及应用研究所

Inventor： 郭敏 ,  王斌 ,  曾颖明 ,  杜锐 ,  马书磊 ,  李子菲 ,  方永强 ,  马晓军 ,  桓琦

IPC: H04L9/40 ,  G10L21/0208 ,  G10L25/03 ,  G10L25/30 ,  G06N3/08

Abstract: 本发明涉及一种物理世界下的语音通用扰动生成方法，涉及人工智能安全技术领域。主要步骤包括初始化音频数据和扰动数据；基于循环移位扩充当前扰动数据，并与音频数据合成得到当前扰动样本；将当前扰动样本分别进行滤波处理，得到滤波后的扰动样本；基于滤波后的扰动样本计算损失函数并进行反向传播；根据当前梯度信息与学习率更新当前扰动数据；根据目标样本攻击成功率与非目标样本识别准确率，判断扰动数据是否成功生成。本发明集成多条语音样本生成通用扰动，利用循环移位和滤波器产生能够在真实物理环境下欺骗语音识别模型，并通过双目标优化实现只对目标类产生攻击效果，而几乎不影响非目标类识别。