公开(公告)号：CN115797498A

公开(公告)日：2023-03-14

申请号：CN202211483418.3

申请日：2022-11-24

Applicant: 西安电子科技大学

Inventor： 张亮 ,  何湛梁 ,  朱光明 ,  王宁 ,  华聪 ,  冯明涛 ,  宋娟 ,  沈沛意

IPC: G06T11/20 ,  G06N5/04

Abstract: 本发明公开了一种基于视觉概念图表示的人‑模型交互解释引导方法、电子设备和存储介质，所述方法包括：以模型为基础提取重要图像块作为类别概念，构造结构概念图，以此为工具表示任意图像，再构建特征流动透明的推理网络模拟已有分类网络，观察概念图各部分的贡献，以实现决策的可解释；另一方面，人自主将每个部件作为一个概念，对部件进行属性整理，结合部件关系构造结构部件图。基于此，人可用类别的结构部件图更新结构概念图，重新训练推理网络，再通过知识蒸馏对原网络进行知识引导。基于这一双向交互方法，本发明可通过模型提供人易理解的推理逻辑，实现神经网络的可解释；同时允许人利用先验知识向网络提供反馈，以提高网络的性能。