一种深度学习模型的并行执行方法和装置

    公开(公告)号:CN119829138A

    公开(公告)日:2025-04-15

    申请号:CN202411884936.5

    申请日:2024-12-19

    Inventor: 沈春杰

    Abstract: 一种深度学习模型的并行执行方法,包括:将与深度学习模型相关的计算任务表示为计算图数据;其中,所述计算图数据为所述深度学习编译器支持的中间表示形式所表示出的计算图数据;获取基于所述中间表示形式所表示出的与所述计算任务对应的并行计算方式,并基于所述并行计算方式将所述计算图数据编译成与所述计算集群中的各个计算节点对应的并行任务执行码;将与所述各个计算节点对应的并行任务执行码分别调度至所述计算集群中的各个计算节点,由所述各个计算节点并行的执行所述并行任务执行码。

    一种数据分级存储方法和系统
    2.
    发明公开

    公开(公告)号:CN116560585A

    公开(公告)日:2023-08-08

    申请号:CN202310819451.7

    申请日:2023-07-05

    Abstract: 说明书实施例提供一种数据分级存储方法和系统,涉及数据存储技术,其要点包括:基于向第一存储区域发起的对目标数据的访问请求以及所述目标数据的历史访问频次,获得所述目标数据的当前访问频次;第一存储区域中的数据从第二存储区域迁入,且具有历史访问频次标记,历史访问频次标记反映相应数据从第一存储区域被请求访问的历史次数;当所述当前访问频次大于缓存阈值时,将目标数据保留在第一存储区域或从第二存储区域迁入第一存储区域,以及基于所述目标数据的当前访问频次更新其历史访问频次标记;所述第一存储区域具有大于所述第二存储区域的数据传输带宽。

    利用计算图优化指令执行时刻的方法、计算图执行方法及装置

    公开(公告)号:CN119473402A

    公开(公告)日:2025-02-18

    申请号:CN202411537681.5

    申请日:2024-10-30

    Inventor: 朱涧江 沈春杰

    Abstract: 本说明书实施例提供了一种利用计算图优化指令执行时刻的方法、计算图执行方法及装置。计算图包括代表指令的节点和代表指令之间依赖关系的边。在对计算图中的指令进行优化时,可以确定计算图在执行时的节点耗时和边耗时,基于计算图中指令之间的依赖关系、节点耗时和边耗时,以及硬件的指令重叠执行能力,构建包含若干指令的执行时刻的若干待规划约束,确定若干待规划约束中指令的最晚执行时刻,以最小化该最晚执行时刻为目标,对若干待规划约束进行求解,得到若干指令的优化执行时刻,以使得执行方在执行计算图时,能够按照优化后的指令执行时刻执行若干指令。计算图中多个指令的执行顺序属于隐私数据,需要进行隐私保护。

    一种数据分级存储方法和系统

    公开(公告)号:CN116560585B

    公开(公告)日:2024-04-09

    申请号:CN202310819451.7

    申请日:2023-07-05

    Abstract: 说明书实施例提供一种数据分级存储方法和系统,涉及数据存储技术,其要点包括:基于向第一存储区域发起的对目标数据的访问请求以及所述目标数据的历史访问频次,获得所述目标数据的当前访问频次;第一存储区域中的数据从第二存储区域迁入,且具有历史访问频次标记,历史访问频次标记反映相应数据从第一存储区域被请求访问的历史次数;当所述当前访问频次大于缓存阈值时,将目标数据保留在第一存储区域或从第二存储区域迁入第一存储区域,以及基于所述目标数据的当前访问频次更新其历史访问频次标记;所述第一存储区域具有大于所述第二存储区域的数据传输带宽。

Patent Agency Ranking