-
公开(公告)号：CN116386607A
公开(公告)日：2023-07-04
申请号：CN202310355410.7
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
Abstract: 本发明涉及一种针对语音识别后门攻击的触发器逆向还原方法，涉及人工智能安全技术领域。主要技术方案包括：1构建投毒训练集；2计算投毒训练集样本相似度矩阵；3根据相似度矩阵检测潜在投毒样本；4利用潜在投毒样本进行触发器逆向还原；5投毒训练集去污化，得到去污化训练集；6利用投毒训练集、去污化训练集分别训练模型；7测试并对比去污化前后的模型识别结果。本发明通过语音端点检测与语音相似度得到潜在投毒样本，并对投毒样本使用的触发器进行逆向还原，实现训练集去污化，削弱投毒样本的后门攻击效果，降低后门攻击对模型的影响。
-
公开(公告)号：CN116401548A
公开(公告)日：2023-07-07
申请号：CN202310357028.X
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/214
Abstract: 本发明涉及一种基于经验模态分解的智能模型鲁棒性测试方法，属于人工智能模型鲁棒性判定技术领域。主要技术方案包括基于待测试智能模型，构建原始测试数据集；基于经验模态分解扩充原始测试数据集；计算不同分解程度下测试数据集的识别准确率、损失；计算智能模型识别准确率变化指标、识别损失变化指标。本发明的方法使用经验模态分解扩充采集得到原始测试数据集，并通过计算模型识别准确率与损失在不同分解程度下的变化趋势，能够对智能模型鲁棒性进行客观评价。
-
Patent Agency Ranking
公开(公告)号：CN116484274A
公开(公告)日：2023-07-25
申请号：CN202310363794.7
申请日：2023-04-07
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/241 , G06F18/2415 , G06N3/048 , G06N3/045 , G06N3/0442 , G06N3/084
Abstract: 本发明涉及一种针对神经网络算法投毒攻击的鲁棒训练方法，属于人工智能安全技术领域。该方法包括步骤：构建神经网络；构建鲁棒训练损失函数；使用包含投毒样本的训练集对神经网络进行预训练，得到神经网络预训练模型；根据神经网络预训练模型，获得包含投毒样本的训练集被预测为真实标签的概率，过滤预测概率低于过滤阈值的样本，从而剔除投毒样本，得到干净的训练集；使用干净的训练集对神经网络预训练模型进行再训练，得到神经网络模型；对神经网络模型进行性能测试。本发明利用模型预测结果与单调递增函数实现样本权重的自适应更新，增大投毒样本与干净样本的权重差异，降低了神经网络模型拟合投毒样本的风险，提高神经网络模型分类的准确率。
-
公开(公告)号：CN113948067B
公开(公告)日：2022-05-27
申请号：CN202111170083.5
申请日：2021-10-08
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种具有听觉高保真度特点的语音对抗样本修复方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本修复训练数据集；搭建RAE网络并设置网络参数；构建高保真音频重构损失，即基于信号均方误差的高保真度策略改进；设置训练参数并训练网络；利用训练好的RAE网络进行对抗样本修复，借助语音识别模型判断是否修复成功。与目前传统常用的语音信号修复方法相比，通过本发明算法生成的音频修复样本具有较高的听觉保真度和修复成功率，能够适用于更低信噪比情况下的对抗样本。
-
公开(公告)号：CN115733676A
公开(公告)日：2023-03-03
申请号：CN202211402844.X
申请日：2022-11-09
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/142
Abstract: 本发明涉及一种面向高速网络流量的多维特征实时提取方法，属于网络安全技术领域。本发明针对智能网络威胁检测在高速网络环境下多维流量特征实时提取的技术难点，结合阻尼增量统计、草图两种思想，提出了特征增量统计草图ISS架构，并基于该架构提出一种高速网络下流量特征实时提取方法，用于在高负载网络下实时提取多维流量特征。该提取方法具有高速流量处理能力和流量特征实时计算能力，可在高速网络环境下实时提取多维流量特征。
-
公开(公告)号：CN118740450A
公开(公告)日：2024-10-01
申请号：CN202410836635.9
申请日：2024-06-26
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/06 , G06N3/045 , G06N3/0442 , G06N3/0464 , G06N3/042 , G06N3/088
Abstract: 本发明涉及一种基于多域多层级网络行为特征图的网络异常状态检测方法，属于网络安全领域。本发明提出了多域多层级行为特征图的构建方法，并基于该特征图提出了一种网络异常状态的检测方法，实现了在大规模的实际网络环境中对网络整体异常状态的检测，并在一定程度上还原出了攻击链路。其中，本发明通过分布式检测的方式实现对大规模网络拓扑条件下的网络异常状态检测。由于传统基于图的网络异常检测技术往往只在小规模网络下展开测试验证，在实际应用时难以在大规模网络下进行实时的检测。本技术方案采用分布式的思想，通过对目标网络进行合理划分，使得每个网络域只需要构建一个规模较小的图结构进行计算，实现对网络整体异常状态的实时检测。
-
公开(公告)号：CN113948067A
公开(公告)日：2022-01-18
申请号：CN202111170083.5
申请日：2021-10-08
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种具有听觉高保真度特点的语音对抗样本修复方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本修复训练数据集；搭建RAE网络并设置网络参数；构建高保真音频重构损失，即基于信号均方误差的高保真度策略改进；设置训练参数并训练网络；利用训练好的RAE网络进行对抗样本修复，借助语音识别模型判断是否修复成功。与目前传统常用的语音信号修复方法相比，通过本发明算法生成的音频修复样本具有较高的听觉保真度和修复成功率，能够适用于更低信噪比情况下的对抗样本。
-
-
-
-
-
-
Search Results
7
records
(took 0.038 seconds)
