一种基于异构分离卷积核的模型压缩与加速方法

    公开(公告)号:CN111612145A

    公开(公告)日:2020-09-01

    申请号:CN202010442785.3

    申请日:2020-05-22

    Abstract: 本发明针对卷积特征图存在大量的相似性这一现象,提出了SPConv,一种基于异构分离卷积核的模型压缩与加速方法。SPConv将输入特征图分为“有代表性的通道”和“冗余的通道”两部分,并利用计算量较大但是特征提取能力强的卷积核来提取“有代表性的通道”中存有的重要本质信息;而利用计算开销非常小的卷积核来提取“冗余通道”中隐藏的微小细节信息。然后二者再通过本发明设计的“无参数量的特征融合方法”进行特征融合。本发明设计的SPConv是一个即插即用的卷积模块,可以在当前网络架构中直接进行替代。在图片分类和目标检测数据数据集上的实验表明本发明保证了在参数量和浮点数计算量大幅下降的情况下,其模型性能和在GPU上的推理速度均超过了基准方法。

Patent Agency Ranking