公开(公告)号：CN118194305A

公开(公告)日：2024-06-14

申请号：CN202410459109.5

申请日：2024-04-16

Applicant: 中国科学院计算技术研究所

Inventor： 曹婍 ,  刘旭超 ,  张凯科 ,  苏度 ,  沈华伟

IPC: G06F21/57 ,  G06F18/213 ,  G06N3/0464 ,  G06N3/045 ,  G06V10/82 ,  G06N3/048

Abstract: 本发明提出一种基于神经网络表示的神经网络模型后门检测方法和装置，包括：根据神经网络模型中每个操作单元的操作类型和在计算流图中的位置，提取该神经网络模型的结构特征；根据神经网络模型中每个操作单元的参数矩阵，提取该神经网络模型的参数特征；结合该结构特征和该参数特征，得到该神经网络模型的表示特征；使用该表示特征训练后门检测器，将待后门检测的神经网络模型的表示特征输入训练完成后的后门检测器，得到其是否具有后门的后门检测结果。本发明可应用于图像识别领域，以提高图像分类模型的分类准确性和安全性，避免图像分类模型对特殊图像给出错误图像分类结果。