公开(公告)号：CN119942494A

公开(公告)日：2025-05-06

申请号：CN202411986792.4

申请日：2024-12-31

Applicant: 南京邮电大学

Inventor： 陈伟 ,  张乐天 ,  张怡婷 ,  吴礼发

IPC: G06V20/58 ,  G06V10/764 ,  G06V10/82 ,  G06N3/0455 ,  G06N3/0475 ,  G06N3/088 ,  G06N3/094

Abstract: 本发明公开了人工智能安全领域一种面向交通标志牌的对抗样本异常检测方法、终端及介质，所述方法包括：将正常样本输入已训练的目标分类模型；从目标分类模型的输出中筛选正确分类的正常样本，对其施加对抗扰动以生成新样本；将正常样本与生成的新样本混合形成测试集，并将测试集中的每个样本输入利用正常样本训练好的自动编码器模型，得到输入样本与重建图像之间的差异图；将差异图输入利用正常样本训练好的异常检测模型，计算输入样本的能量值，并将该能量值与正常样本的能量阈值进行比较，若能量值大于能量阈值，则判定该样本为对抗样本。本发明能够更高效、更精准地发现对抗样本，进一步提升了对抗样本检测的性能和适应性。