公开(公告)号：CN117152550A

公开(公告)日：2023-12-01

申请号：CN202310354927.4

申请日：2023-04-04

Applicant: 西安邮电大学

Inventor： 孙家泽 ,  李楠 ,  马鲜艳 ,  王小银 ,  李娟

IPC: G06V10/774 ,  G06V10/762 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种面向自动驾驶系统的神经元覆盖引导式测试方法，属于人工智能测试领域，具体涉及到自动驾驶系统测试中大规模高质量的测试样本严重稀缺的问题，其特征是根据图像斑点信息对自动驾驶系统采集的原始测试样本聚类，筛选出等量种子样本，然后以最大化神经元覆盖率和使得系统预测不一致为目标，将在原始测试用例上的修改转化为一个优化问题，并采用梯度上升法求解，自动生成出容易使系统输出错误且神经元覆盖率高的测试用例集，最后重新输入至自动驾驶模型中训练，主要解决目前自动驾驶系统中测试用例不足，且存在神经元覆盖率低、耗时长等问题，从而挖掘出更多自动驾驶软件不合理的系统缺陷，减少测试损耗，增强系统模型的预测准确率。

公开(公告)号：CN113987955A

公开(公告)日：2022-01-28

申请号：CN202111324429.2

申请日：2021-11-10

Applicant: 西安邮电大学

Inventor： 孙家泽 ,  温苏雷 ,  李娟 ,  王曙燕 ,  王小银

IPC: G06F30/27 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明针对深度神经网络鲁棒性优化问题，公开了一种基于陷阱式集成网络的对抗样本防御方法，属于深度学习和人工智能安全领域。首先根据实际应用场景、基础网络模型和训练数据集来选择不同的陷阱数据集。然后基于基础网络模型生成并训练增广输出类别的陷阱网络，在准确率和模型多样性的标准下进行增广输出类别的陷阱网络的筛选，最终构成陷阱式集成网络。随后对陷阱式集成网络进行对抗样本的生成，并利用筛选后的对抗样本进行对抗训练以持续地提高陷阱式集成网络的鲁棒性。本发明提出了一种高效的对抗样本防御方法，是一种新的模型扩充方法，同时扩大了模型的防御范围，提高了模型的鲁棒性。

公开(公告)号：CN113987955B

公开(公告)日：2024-07-02

申请号：CN202111324429.2

申请日：2021-11-10

Applicant: 西安邮电大学

Inventor： 孙家泽 ,  温苏雷 ,  李娟 ,  王曙燕 ,  王小银

IPC: G06F30/27 ,  G06F18/213 ,  G06F18/214 ,  G06F18/22 ,  G06F18/24 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明针对深度神经网络鲁棒性优化问题，公开了一种基于陷阱式集成网络的对抗样本防御方法，属于深度学习和人工智能安全领域。首先根据实际应用场景、基础网络模型和训练数据集来选择不同的陷阱数据集。然后基于基础网络模型生成并训练增广输出类别的陷阱网络，在准确率和模型多样性的标准下进行增广输出类别的陷阱网络的筛选，最终构成陷阱式集成网络。随后对陷阱式集成网络进行对抗样本的生成，并利用筛选后的对抗样本进行对抗训练以持续地提高陷阱式集成网络的鲁棒性。本发明提出了一种高效的对抗样本防御方法，是一种新的模型扩充方法，同时扩大了模型的防御范围，提高了模型的鲁棒性。

公开(公告)号：CN114022707A

公开(公告)日：2022-02-08

申请号：CN202111282686.4

申请日：2021-11-01

Applicant: 西安邮电大学

Inventor： 孙家泽 ,  李娟 ,  王小银 ,  王曙燕

IPC: G06V10/764 ,  G06V10/774 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明针对深度神经网络图像分类模型鲁棒性问题，公开了一种深度神经网络图像分类模型鲁棒性提升方法，属于机器学习和AI智能安全领域。该方法首先基于相同的训练样本集训练n个模型，然后以最大化神经元覆盖率和模型差异行为为指导构建联合优化问题，更新测试样本集中未使n个图像分类模型产生差异行为的样本图像，并采用梯度上升方法求解联合优化问题，得到具有高神经元覆盖率且使n个图像分类模型产生差异行为的样本集，最后对样本集分类并标记正确的标签，加入训练样本集重新训练图像分类模型。本发明方法能够激活图像分类模型更多的神经元，有助于模型在极端输入下作出正确分类且分类准确率提高，由此模型鲁棒性得到提升。