发明公开
- 专利标题: 一种智能电力边缘设备的深度神经网络模型压缩方法
-
申请号: CN202310794209.9申请日: 2023-06-30
-
公开(公告)号: CN117035039A公开(公告)日: 2023-11-10
- 发明人: 王旭强 , 江黛茹 , 郑剑 , 张倩宜 , 金尧 , 曹旌 , 尚博祥 , 杨一帆 , 张子暄 , 郑阳
- 申请人: 国网天津市电力公司 , 国家电网有限公司 , 国网天津市电力公司信息通信公司
- 申请人地址: 天津市河北区五经路39号; ;
- 专利权人: 国网天津市电力公司,国家电网有限公司,国网天津市电力公司信息通信公司
- 当前专利权人: 国网天津市电力公司,国家电网有限公司,国网天津市电力公司信息通信公司
- 当前专利权人地址: 天津市河北区五经路39号; ;
- 代理机构: 天津盛理知识产权代理有限公司
- 代理商 王雨晴
- 主分类号: G06N3/082
- IPC分类号: G06N3/082 ; G06N3/0464 ; G06N3/0495 ; G06Q50/06
摘要:
本发明涉及一种智能电力边缘设备的深度神经网络模型压缩方法,包括以下步骤:S1、获取训练好的智能电力深度神经网络模型;S2、获取每一层的卷积核,并进行分组;S3、对每一子卷积核组的分布进行统计;S4、选择部分子卷积核组进行活化;S5、对神经网络模型的冗余参数进行结构化修剪操作;S6、进行卷积核结构化深度神经网络模型再训练;S7、获取神经网络模型的权值参数;S8、对网络模型每一层的初始化权值参数绝对值进行排序;S9、获取差值最小的以2为底的幂或0,将要量化的权值组量化为该值;S10、对原始权值进行更新;S11、获得最终量化后深度神经网络模型。本发明能够充分解决在资源有限设备上的内存占用和计算工作负载优化。