公开(公告)号：CN118097382A

公开(公告)日：2024-05-28

申请号：CN202410252465.X

申请日：2024-03-06

Applicant: 杭州市滨江区浙工大网络空间安全创新研究院

Inventor： 翔云 ,  朱艺沁 ,  李香玉

IPC: G06V10/98 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/048

Abstract: 本发明公开了一种基于神经元稳定度的目标检测模型故障定位方法，涉及自动驾驶技术领域。包括：确定目标自动驾驶系统，组成原始测试用例集；生成预设数量的蜕变测试用例，组成蜕变测试用例集；将原始测试用例集和蜕变测试用例集分别输入目标检测模型测试，组成故障测试用例集；执行原始测试用例集和故障测试用例集，计算每个神经元的稳定度；根据神经元稳定度排序，选取前预设比例最不稳定的神经元，作为故障神经元输出；基于输出的故障神经元得到当前自动驾驶系统定位错误决策因素。本发明有助于解决自动驾驶系统中深度神经网络故障检测的难题，为实现更安全、可靠的自动驾驶技术提供新的技术手段。

公开(公告)号：CN117216612A

公开(公告)日：2023-12-12

申请号：CN202311191887.2

申请日：2023-09-15

Applicant: 杭州市滨江区浙工大网络空间安全创新研究院

Inventor： 翔云 ,  李香玉 ,  朱艺沁

IPC: G06F18/23213 ,  G06F16/35 ,  G06N3/047 ,  G06N3/084 ,  G06N3/094

Abstract: 本发明公开了一种基于自动机解释的文本对抗样本检测方法，属于文本处理技术领域，包括构建原始分类模型；依据概率学习算法，从原始网络模型中抽象生成概率自动机；基于测试数据集生成对抗样本，加入到测试集中，构成待筛选的混合数据集；将待筛选的混合数据集输入原始网络模型，进而得到样本在概率自动机上的运行轨迹，将样本在自动机上的运行信息带入指标计算公式，根据指标结果对样本进行筛选。本发明通过计算样本在循环神经网络模型的代理模型‑概率自动机上运行的信息，通过可疑度指标来度量样本是对抗样本的可疑程度，通过对样本可疑度指标进行排序，可以有效筛选出样本集中的对抗样本。