-
公开(公告)号:CN117350338A
公开(公告)日:2024-01-05
申请号:CN202311365673.2
申请日:2023-10-20
Applicant: 浙江大学
IPC: G06N3/0464 , G06N3/08 , G06N3/063
Abstract: 本发明公开了一种基于多级成本模型的计算图优化方法、系统及存储介质,包括:(1)定义多级成本模型,用于评估计算图执行方案的执行成本;(2)设置子图替换规则集合;(3)基于给定神经网络模型文件,转换为统一的计算图信息;(4)对候选计算图结构进行分析,应用子图替换规则,得到新计算图;(5)选择成本模型对计算图的执行性能进行评估;(6)基于成本评估结果与缩放因子,选取候选计算图;(7)重复步骤(4)~(6),直到达到预期的计算图优化效果或收敛条件,得到最佳计算图。本发明综合考虑了搜索时间与优化效果的权衡问题,可以满足各种场景下的不同需要,指导计算图的优化方向,从而提高神经网络模型的计算效率和性能。