-
公开(公告)号：CN116401548A
公开(公告)日：2023-07-07
申请号：CN202310357028.X
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/214
Abstract: 本发明涉及一种基于经验模态分解的智能模型鲁棒性测试方法，属于人工智能模型鲁棒性判定技术领域。主要技术方案包括基于待测试智能模型，构建原始测试数据集；基于经验模态分解扩充原始测试数据集；计算不同分解程度下测试数据集的识别准确率、损失；计算智能模型识别准确率变化指标、识别损失变化指标。本发明的方法使用经验模态分解扩充采集得到原始测试数据集，并通过计算模型识别准确率与损失在不同分解程度下的变化趋势，能够对智能模型鲁棒性进行客观评价。
-
公开(公告)号：CN116484274A
公开(公告)日：2023-07-25
申请号：CN202310363794.7
申请日：2023-04-07
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
IPC: G06F18/241 , G06F18/2415 , G06N3/048 , G06N3/045 , G06N3/0442 , G06N3/084
Abstract: 本发明涉及一种针对神经网络算法投毒攻击的鲁棒训练方法，属于人工智能安全技术领域。该方法包括步骤：构建神经网络；构建鲁棒训练损失函数；使用包含投毒样本的训练集对神经网络进行预训练，得到神经网络预训练模型；根据神经网络预训练模型，获得包含投毒样本的训练集被预测为真实标签的概率，过滤预测概率低于过滤阈值的样本，从而剔除投毒样本，得到干净的训练集；使用干净的训练集对神经网络预训练模型进行再训练，得到神经网络模型；对神经网络模型进行性能测试。本发明利用模型预测结果与单调递增函数实现样本权重的自适应更新，增大投毒样本与干净样本的权重差异，降低了神经网络模型拟合投毒样本的风险，提高神经网络模型分类的准确率。
-
公开(公告)号：CN116386607A
公开(公告)日：2023-07-04
申请号：CN202310355410.7
申请日：2023-04-06
Applicant: 北京计算机技术及应用研究所 , 西安电子科技大学
Abstract: 本发明涉及一种针对语音识别后门攻击的触发器逆向还原方法，涉及人工智能安全技术领域。主要技术方案包括：1构建投毒训练集；2计算投毒训练集样本相似度矩阵；3根据相似度矩阵检测潜在投毒样本；4利用潜在投毒样本进行触发器逆向还原；5投毒训练集去污化，得到去污化训练集；6利用投毒训练集、去污化训练集分别训练模型；7测试并对比去污化前后的模型识别结果。本发明通过语音端点检测与语音相似度得到潜在投毒样本，并对投毒样本使用的触发器进行逆向还原，实现训练集去污化，削弱投毒样本的后门攻击效果，降低后门攻击对模型的影响。
-
公开(公告)号：CN119830292A
公开(公告)日：2025-04-15
申请号：CN202411686003.5
申请日：2024-11-24
Applicant: 北京计算机技术及应用研究所
IPC: G06F21/57
Abstract: 本发明涉及一种漏洞扫描的效果评估方法、装置及电子设备，属于漏洞扫描技术领域。本发明通过漏洞扫描程序对各目标网络环境进行漏洞扫描时产生的漏洞数据进行预处理，得到各目标网络环境的基础指标的指标值，进而计算出扫描程序对各目标网络环境的漏洞扫描效果评价值，最后基于各目标网络环境对应的漏洞扫描效果评价值，最终确定本次漏洞扫描的效果。这样，通过综合漏洞扫描程序对于各目标网络环境的系统漏洞、服务漏洞、Web漏洞的扫描效果，实现了一次对漏洞扫描威胁的综合评估，使得评估结果更全面、更准确，从而可以为漏洞利用研究人员或安全防御开发人员提供一套合理的漏洞扫描和漏洞威胁的评估方案。
-
公开(公告)号：CN118116056A
公开(公告)日：2024-05-31
申请号：CN202410304549.3
申请日：2024-03-18
Applicant: 北京计算机技术及应用研究所
IPC: G06V40/16 , G06V10/774 , G06V10/82 , G06V10/764 , G06N3/084
Abstract: 本发明公开了一种高鲁棒性人脸识别对抗样本生成方法，属于人工智能安全领域。主要技术方案包括：1.初始化算法参数与图像预处理得到当前对抗样本；2.计算输出多样性初始化梯度；3.输出多样性初始化对抗样本；4.针对真实物理世界数据增强；5.计算物理世界下数据增强累积梯度平均；6.当前对抗样本更新，并判断是否满足迭代终止条件；7.对最终对抗样本进行测试，观察不同类别对抗样本实际效果。本发明生成的对抗样本通过同时使用输出多样性初始化及模拟真实物理环境对图像增加对抗扰动，应用梯度高斯平滑、动量梯度及噪声抑制对生成的对抗样本图像进行更新，能够保证生成的对抗扰动隐藏在真实物理环境噪声之中，对抗样本在物理世界下较高鲁棒性。
-
Patent Agency Ranking
公开(公告)号：CN115733676A
公开(公告)日：2023-03-03
申请号：CN202211402844.X
申请日：2022-11-09
Applicant: 北京计算机技术及应用研究所
IPC: H04L9/40 , H04L41/142
Abstract: 本发明涉及一种面向高速网络流量的多维特征实时提取方法，属于网络安全技术领域。本发明针对智能网络威胁检测在高速网络环境下多维流量特征实时提取的技术难点，结合阻尼增量统计、草图两种思想，提出了特征增量统计草图ISS架构，并基于该架构提出一种高速网络下流量特征实时提取方法，用于在高负载网络下实时提取多维流量特征。该提取方法具有高速流量处理能力和流量特征实时计算能力，可在高速网络环境下实时提取多维流量特征。
-
公开(公告)号：CN115032980A
公开(公告)日：2022-09-09
申请号：CN202210447172.8
申请日：2022-04-19
Applicant: 北京计算机技术及应用研究所
IPC: G05D1/02
Abstract: 本发明涉及一种基于对抗地图的深度强化学习导航应用鲁棒性增强方法，属于人工智能安全技术领域。本发明针对深度强化学习导航应用，为提高真实环境下DRL导航系统的鲁棒性，保证DRL导航模型在多种地图上均可安全导航，基于对抗样本的基本原理，提出了对抗地图的定义以及生成方法，并在此基础上通过“以攻促防”的方式，从对抗样本攻防角度出发，设计了一种基于对抗地图的鲁棒性增强方法，能够解决在真实环境下如何将对抗扰动添加到智能模型输入的问题，为真实环境下DRL导航模型的鲁棒性增强提供了一套可用的方案。
-
公开(公告)号：CN109951499B
公开(公告)日：2021-09-17
申请号：CN201910338300.3
申请日：2019-04-25
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种基于网络结构特征的异常检测方法，其中，包括：(1)网络特征参数提取，(2)建立网络拓扑特征模型；(3)进行网络特征匹配，包括：将t时刻的待检测网络结构特征与分析所得的正常网络结构特征进行匹配，若t时刻的网络特征与的正常网络结构特征偏离度较大，则表示当前t时刻的网络存在异常；若偏离度不大，则判定t时刻的网络正常；网络特征模型更新，并通过更新后的网络模型对待检测网络行为进行检测。一种基于网络结构特征的异常检测方法，解决了现有技术无法检测规模性异常、对网络流量之间关联关系分析不深入、精细化分析导致开销过大等的问题。
-
公开(公告)号：CN109388642B
公开(公告)日：2021-08-27
申请号：CN201811235171.7
申请日：2018-10-23
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种基于标签的敏感数据追踪溯源方法，涉及数据安全技术领域。本发明针对大数据平台中结构化数据的追踪溯源问题，创新性地提出面向结构化数据的、基于标签的敏感数据追踪溯源方法，同时针对标签技术中元数据占用存储高的标签统一格式定义、标签提取、标签存储、存储优化、可视化展示环节展开设计，实现面向敏感数据的全路径追踪溯源，可对数据泄露源头进行回溯、定位。
-
公开(公告)号：CN109041065B
公开(公告)日：2021-06-22
申请号：CN201811091191.1
申请日：2018-09-19
Applicant: 北京计算机技术及应用研究所
Abstract: 本发明涉及一种面向两跳多副本自组网的节点信任管理方法，涉及网络安全技术领域。本发明对由源节点动态监控的直接信任值和由邻居节点动态反馈的间接信任值进行加权处理，解决了两跳多副本自组网节点信任度的动态评估难题，对节点恶意行为的度量更加全面客观。本发明借助正向效用值以激励中继节点的可靠行为，并借助反向效用值以惩罚中继节点的恶意行为，能够约束自组网节点主动参与两跳多副本的路由转发，有效促进网络安全程度的改善。
-
-
-
-
-
-
-
-
-
Search Results
61
records
(took 0.092 seconds)
