一种智能化的多算子交叉调度方法及系统

    公开(公告)号:CN119645583A

    公开(公告)日:2025-03-18

    申请号:CN202411499609.8

    申请日:2024-10-24

    Abstract: 本发明涉及一种智能化的多算子交叉调度方法及系统,方法包括:收集算子的运行时特征,确定各个算子应当划分的Subkernel数量,并构建以Subkernel为单位的执行流图,明确Subkernel之间的依赖关系;根据算子优先级PR和调度策略选择执行流图中无前置依赖的Subkernel节点进行调度;将对应的算子指令从指令缓存单元加载至指令存储单元,确保所有必要的指令已经加载;在PE阵列处理单元执行Subkernel并更新执行流图,迭代进行直到任务结束。本发明通过数据切割进行更细粒度的Subkernel调度,Subkernel间可以动态切换和交叉调度,提高任务执行的灵活性。

    基于异构数据流架构的细粒度多算子并行调度方法及系统

    公开(公告)号:CN119645584A

    公开(公告)日:2025-03-18

    申请号:CN202411532526.4

    申请日:2024-10-30

    Abstract: 本发明涉及基于异构数据流架构的细粒度多算子并行调度方法及系统。方法包括:根据分解得到的与任务调度过程相关的算子建立算子拓扑图,并且构造算子数据流图;根据算子拓扑图分析算子间在任务中的数据依赖关系,基于数据依赖关系和算子的运行时特征将算子分组并为各个算子组维护对应的调度队列;根据调度队列对并行算子组进行调度,并且基于运行时特征为并行算子分配计算资源;根据算子数据流图对并行算子组的原算子数据流图进行数据流图动态重构;当PE数据流阵列并行执行算子结束后,检查各个调度队列是否均为空,若是,则结束算子调度,否则,继续根据调度队列对并行算子组进行调度。本发明可以减少对SPM的访问,实现多算子高效并行调度。

Patent Agency Ranking