一种神经网络的权重压缩和集成标准的剪枝方法

    公开(公告)号:CN115936099A

    公开(公告)日:2023-04-07

    申请号:CN202211590899.8

    申请日:2022-12-12

    Inventor: 陈小柏 孙杰克

    Abstract: 一种神经网络的权重压缩和集成标准的剪枝方法,其中,对于非结构化剪枝,针对传统的一次性剪枝得到压缩网络,可能会因为剪枝阈值设置过大而导致精度难以恢复的缺陷,提出了权重压缩剪枝方法,通过设置较低的阈值,多次对权重进行压缩再剪枝,使得在有效保持精度的情况下获得比传统方案更高的剪枝比例。对于结构化剪枝,针对使用单一一种卷积核重要性度量标准,可能对具体任务产生片面性影响的缺陷,提出了集成标准的剪枝方案,通过结合多种重要性度量标准,来使用最后的集成标准进行剪枝。

Patent Agency Ranking