公开(公告)号：CN119851016A

公开(公告)日：2025-04-18

申请号：CN202411913186.X

申请日：2024-12-24

Applicant: 国网重庆市电力公司电力科学研究院

Inventor： 米建勋 ,  程晓 ,  罗琳 ,  钟加勇 ,  向菲 ,  江金洋 ,  张哲宇 ,  李松浓 ,  戴豪礽 ,  彭文鑫 ,  况彭燕 ,  刘丁豪 ,  王雪文

IPC: G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06V10/40

Abstract: 本发明公开了一种针对目标检测模型中定位问题的黑盒可解释方法与装置，该方法包括利用原始图像数据对目标检测模型进行训练，得到训练好的目标检测模型；将待解释的图像输入到训练好的目标检测模型中，输出多个待解释的目标框，每个目标框包括顶点坐标、对象的类别和类别的置信度；拟采用蒙特卡罗采样产生多个掩模，对图片进行扰动，将扰动后的图像输入网络，产生候选框，根据候选框是否与待解释的目标框为同一类别，同一对象，同一条边沿，为被扰动的区域进行权重赋值；利用每个扰动掩模对应的权重，对掩模进行加权求和，得到最终的解释热图。本发明通过扰动原图，精准地捕捉输出的变化，从而产生热力图进行解释。