公开(公告)号：CN117236393B

公开(公告)日：2025-04-18

申请号：CN202311076052.2

申请日：2023-08-24

Applicant: 中南大学

Inventor： 周芳芳 ,  沈海誉 ,  刘志鹏 ,  杨雷 ,  张睿晨 ,  谭依静 ,  张健 ,  郭克华 ,  赵颖

IPC: G06N3/06 ,  G06N3/0464 ,  G06N3/084 ,  G06V10/74 ,  G06V10/82

Abstract: 本发明提供了一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，通过量化单个神经元的可解释性度和单层神经元的可解释性度量实现对卷积神经网络神经元可解释性评估。首先使用反向导向传播算法实现单个神经元的特征可视化，得到单个神经元的GBP图像；根据合作博弈论理论计算单个像素对预测输入图像属于某一类别的贡献度，从而得到SHAP图像。通过计算GBP图像和SHAP图像的相似度得到单个神经元的可解释性度量值，对单层内所有神经元的可解释性度量值求平均得到单层神经元可解释性度量值。本发明的指标提供了符合人类直觉的神经元可解释性度量方式，且计算高效。

公开(公告)号：CN117236393A

公开(公告)日：2023-12-15

申请号：CN202311076052.2

申请日：2023-08-24

Applicant: 中南大学

Inventor： 周芳芳 ,  沈海誉 ,  刘志鹏 ,  杨雷 ,  张睿晨 ,  谭依静 ,  张健 ,  郭克华 ,  赵颖

IPC: G06N3/06 ,  G06N3/0464 ,  G06N3/084 ,  G06V10/74 ,  G06V10/82

Abstract: 本发明提供了一种基于合作博弈论的卷积神经网络神经元可解释性评估方法，通过量化单个神经元的可解释性度和单层神经元的可解释性度量实现对卷积神经网络神经元可解释性评估。首先使用反向导向传播算法实现单个神经元的特征可视化，得到单个神经元的GBP图像；根据合作博弈论理论计算单个像素对预测输入图像属于某一类别的贡献度，从而得到SHAP图像。通过计算GBP图像和SHAP图像的相似度得到单个神经元的可解释性度量值，对单层内所有神经元的可解释性度量值求平均得到单层神经元可解释性度量值。本发明的指标提供了符合人类直觉的神经元可解释性度量方式，且计算高效。