一种用于输电线路图像检测的浮点型数据量化方法及设备

    公开(公告)号:CN117973454A

    公开(公告)日:2024-05-03

    申请号:CN202410210317.1

    申请日:2024-02-26

    摘要: 一种用于输电线路图像检测的浮点型数据量化方法及设备,方法包括将要输入卷积神经网络进行MAC运算的输电线路图像浮点型数据进行分组;将属于同一组的输电线路图像浮点型数据中的指数进行比较,选出最大的指数;将最大的指数之外的其他指数与最大的指数进行预对齐,相应的对尾数位进行移位;利用完成数据位处理之后的输电线路图像浮点型数据完成MAC运算。指数预对齐是将同一组数据(根据硬件架构和精度需求进行分组大小的设置,涉及到精度与效率的权衡)指数进行比较,选出最大的指数,将其他数据的指数与最大指数对齐,相应的尾数位进行移位。本发明通过指数预预对齐对网络进行浮点量化处理,避免频繁的指数预对齐操作,提高网络能效比。