-
公开(公告)号：CN116386607A
公开(公告)日：2023-07-04
申请号：CN202310355410.7
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
Abstract: 本发明涉及一种针对语音识别后门攻击的触发器逆向还原方法，涉及人工智能安全技术领域。主要技术方案包括：1构建投毒训练集；2计算投毒训练集样本相似度矩阵；3根据相似度矩阵检测潜在投毒样本；4利用潜在投毒样本进行触发器逆向还原；5投毒训练集去污化，得到去污化训练集；6利用投毒训练集、去污化训练集分别训练模型；7测试并对比去污化前后的模型识别结果。本发明通过语音端点检测与语音相似度得到潜在投毒样本，并对投毒样本使用的触发器进行逆向还原，实现训练集去污化，削弱投毒样本的后门攻击效果，降低后门攻击对模型的影响。
-
公开(公告)号：CN116401548A
公开(公告)日：2023-07-07
申请号：CN202310357028.X
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/214
Abstract: 本发明涉及一种基于经验模态分解的智能模型鲁棒性测试方法，属于人工智能模型鲁棒性判定技术领域。主要技术方案包括基于待测试智能模型，构建原始测试数据集；基于经验模态分解扩充原始测试数据集；计算不同分解程度下测试数据集的识别准确率、损失；计算智能模型识别准确率变化指标、识别损失变化指标。本发明的方法使用经验模态分解扩充采集得到原始测试数据集，并通过计算模型识别准确率与损失在不同分解程度下的变化趋势，能够对智能模型鲁棒性进行客观评价。
-
公开(公告)号：CN116484274A
公开(公告)日：2023-07-25
申请号：CN202310363794.7
申请日：2023-04-07
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/241 , G06F18/2415 , G06N3/048 , G06N3/045 , G06N3/0442 , G06N3/084
Abstract: 本发明涉及一种针对神经网络算法投毒攻击的鲁棒训练方法，属于人工智能安全技术领域。该方法包括步骤：构建神经网络；构建鲁棒训练损失函数；使用包含投毒样本的训练集对神经网络进行预训练，得到神经网络预训练模型；根据神经网络预训练模型，获得包含投毒样本的训练集被预测为真实标签的概率，过滤预测概率低于过滤阈值的样本，从而剔除投毒样本，得到干净的训练集；使用干净的训练集对神经网络预训练模型进行再训练，得到神经网络模型；对神经网络模型进行性能测试。本发明利用模型预测结果与单调递增函数实现样本权重的自适应更新，增大投毒样本与干净样本的权重差异，降低了神经网络模型拟合投毒样本的风险，提高神经网络模型分类的准确率。
-
公开(公告)号：CN118095406A
公开(公告)日：2024-05-28
申请号：CN202410297400.7
申请日：2024-03-15
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种针对智能人脸识别模型的随机对抗训练方法，属于人工智能安全领域。包括：1.搭建人脸识别模型并初始化算法参数、构造人脸图片训练集；2.将人脸图片训练集随机划分为多个互不相交的训练子集；3.利用划分后的训练子集生成对抗训练子集；4.利用对抗训练子集和加权损失函数对人脸识别模型进行反向传播训练；5.判断是否满足所有训练子集全部完成对抗训练，是则执行步骤6，否则返回步骤3；6.判断人脸识别模型迭代次数是否达到终止条件，是则输出最终鲁棒人脸识别模型，否则返回步骤2继续执行。本发明能同时抵御人脸伪装攻击和人脸逃逸攻击，增强人脸识别模型抵御攻击且能保证干净人脸样本的识别准确率，增强模型的鲁棒性和泛化能力。
-
公开(公告)号：CN113948067B
公开(公告)日：2022-05-27
申请号：CN202111170083.5
申请日：2021-10-08
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种具有听觉高保真度特点的语音对抗样本修复方法，涉及人工智能安全技术领域。该方法包括步骤：构建对抗样本修复训练数据集；搭建RAE网络并设置网络参数；构建高保真音频重构损失，即基于信号均方误差的高保真度策略改进；设置训练参数并训练网络；利用训练好的RAE网络进行对抗样本修复，借助语音识别模型判断是否修复成功。与目前传统常用的语音信号修复方法相比，通过本发明算法生成的音频修复样本具有较高的听觉保真度和修复成功率，能够适用于更低信噪比情况下的对抗样本。
-
Patent Agency Ranking
公开(公告)号：CN114332446A
公开(公告)日：2022-04-12
申请号：CN202111212057.4
申请日：2021-10-18
Applicant: 北京计算机技术及应用研究所
IPC: G06V10/24 , G06V10/774 , G06V10/764 , G06V10/82 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明涉及一种在物理世界下具有旋转鲁棒性的图像对抗样本生成方法，涉及人工智能安全技术领域。主要步骤包括1.初始化算法参数与图像预处理得到当前对抗样本；2.利用当前对抗样本旋转得到旋转后的对抗样本；3.判断是否满足迭代终止条件，是则输出最终对抗样本并执行步骤7，否则执行步骤4；4.计算旋转不变联合梯度矩阵；5.对旋转不变联合梯度矩阵进行均值滤波；6.当前对抗样本更新，并返回步骤23；7.在真实物理世界下利用最终对抗样本进行测试，观察不同旋转角度下的对抗攻击效果。本发明生成的对抗样本在物理世界下具有旋转鲁棒性，解决了对抗样本在旋转过后攻击存在失效的情况，进一步提高了攻击成功率。
-
公开(公告)号：CN113935913A
公开(公告)日：2022-01-14
申请号：CN202111170040.7
申请日：2021-10-08
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种具有视觉感知隐蔽性的黑盒图像对抗样本生成方法，涉及人工智能安全技术领域。主要技术方案包括：1初始化算法参数以及对抗样本集合；2根据对抗攻击效果挑选优势对抗样本子集；3判断最优对抗样本是否攻击成功，如果攻击成功，则转到步骤6；4否则利用对抗样本子集交叉产生新的对抗样本集合；5按照一定概率添加隐蔽性噪声；6输出对抗样本并进行测试。本发明利用视觉感知的掩蔽效应，使产生的对抗样本与原始图像的视觉感知相似度高，具有良好的隐蔽性，能够在不被察觉的情况下发动黑盒对抗攻击。
-
公开(公告)号：CN117792676A
公开(公告)日：2024-03-29
申请号：CN202311546305.8
申请日：2023-11-20
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40
Abstract: 本发明涉及一种面向目标网络的特征构建方法，属于欺骗网络构建技术领域。本发明提供的一种面向目标网络的特征构建方法构建的网络特征具有唯一性、稳定性、可区分性、可测性和相关性等重要属性。其中，从网络设备特征、网络流量特征和网络拓扑特征三个方面选取和组合特征值，构建网络特征模型。该方法能够在确定网络特征表示方法的基础上，使用网络扫描、流量捕获、流量分析和拓扑测量、网络设备指纹识别等技术手段，获取网络特征的基础特征向量，通过对基础特征进行裁剪和组合，获得网络特征向量数据。
-
公开(公告)号：CN115759081A
公开(公告)日：2023-03-07
申请号：CN202211398631.4
申请日：2022-11-09
Applicant: 北京计算机技术及应用研究所
IPC: G06F40/289 , G06F40/268 , G06F18/22 , G06F18/2431 , G06N5/01 , G06N5/02 , G06N3/0442 , G06N3/048 , G06N3/088 , G06N3/084 , H04L9/40
Abstract: 本发明涉及一种基于短语相似度的攻击模式抽取方法，属于信息安全技术领域。本发明能够从非结构化威胁情报文本中提取出特定的攻击模式，即攻击者对于目标所使用的攻击方法的抽象，并将其映射到ATT&CK矩阵，能够更准确地提取出非结构化的威胁情报文本中的攻击模式，且能够提高效率。
-
公开(公告)号：CN115542777A
公开(公告)日：2022-12-30
申请号：CN202211327589.7
申请日：2022-10-27
Applicant: 北京计算机技术及应用研究所
IPC: G05B17/02
Abstract: 本发明涉及一种针对异构多智能体仿真对抗环境的强化学习决策方法，属于深度强化学习攻防对抗技术领域。本发明针对异构多智能体对抗场景下强化学习难以训练的问题，基于分布执行集中训练的思想，通过结合长短期记忆网络引入历史数据，同时引入模仿学习加速算法收敛，最终实现了多智能体对抗的智能决策。
-
-
-
-
-
-
-
-
-
Search Results
22
records
(took 0.032 seconds)
