公开(公告)号：CN118887468B

公开(公告)日：2025-02-14

申请号：CN202410941326.8

申请日：2024-07-15

Applicant: 北京大学

Inventor： 何航舟 ,  卢闫晔

IPC: G06V10/764 ,  G06V10/774 ,  G06N3/0464

Abstract: 本发明公开了一种基于鲁棒模型的类别特异性强的特征归因方法，属于神经网络可解释性方法领域。本发明构建鲁棒的图像分类模型，获取当前图像和数据集中所有类别的初始特征激活映射图，通过计算各类别初始特征激活图与目标类别的相关矩阵，计算特异性特征归因图DFA，最终得到归因结果。本发明综合考虑了数据集中所有类别的相关关系，从而提升了特征归因结果的类别特异性；且与现有技术相比，提高了特征归因结果的可解释性。

公开(公告)号：CN118887468A

公开(公告)日：2024-11-01

申请号：CN202410941326.8

申请日：2024-07-15

Applicant: 北京大学

Inventor： 何航舟 ,  卢闫晔

IPC: G06V10/764 ,  G06V10/774 ,  G06N3/0464

Abstract: 本发明公开了一种基于鲁棒模型的类别特异性强的特征归因方法，属于神经网络可解释性方法领域。本发明构建鲁棒的图像分类模型，获取当前图像和数据集中所有类别的初始特征激活映射图，通过计算各类别初始特征激活图与目标类别的相关矩阵，计算特异性特征归因图DFA，最终得到归因结果。本发明综合考虑了数据集中所有类别的相关关系，从而提升了特征归因结果的类别特异性；且与现有技术相比，提高了特征归因结果的可解释性。