-
公开(公告)号:CN119067195A
公开(公告)日:2024-12-03
申请号:CN202411217885.0
申请日:2024-09-02
Applicant: 上海大学
IPC: G06N3/096 , G06N3/094 , G06N3/0464 , G06N3/045
Abstract: 一种用于深度卷积模型的双阶段模型重优化方法,通过在第一阶段将原始深度卷积模型改造为包含多支路的重参数化训练模块的中间模型,并对其进行蒸馏训练;在第二阶段将训练后的中间模型的重参数化训练模块进行转化,使中间模型的结构恢复为原始深度卷积模型;在在线阶段使用优化后的深度卷积模型进行实际部署;本发明结合了基于向量级的知识蒸馏框架以及多支路的重参数化训练模块,在不改变原有模型计算量、参数量、模型结构和推理速度的情况下有效提升深度卷积模型的性能。