深度学习模型部署方法、装置、计算机设备

    公开(公告)号:CN117056077A

    公开(公告)日:2023-11-14

    申请号:CN202311101691.X

    申请日:2023-08-30

    Applicant: 湖南大学

    Abstract: 本申请涉及一种深度学习部署方法、装置、计算机设备、存储介质和计算机程序产品。所述方法包括:获取所述深度学习模型对应的第一计算图;根据所述第一计算图的各节点信息以及各节点之间的边信息,确定所述第一计算图中的各关键节点;根据所述第一计算图中各节点之间的边信息,将所述深度学习模型的各模型参数以及各模型参数之间的运算符划分为各模型参数集合;根据各所述关键节点,对各所述模型参数集合进行融合,得到各目标模型运算链路集合;将各所述目标模型运算链路集合部署至预设分布式集群。采用本方法融合得到的各目标模型运算链路集合在并行运行时可以拥有更好的并行运行效率。

Patent Agency Ranking