GPU任务调度方法及系统
    1.
    发明公开

    公开(公告)号:CN107122245A

    公开(公告)日:2017-09-01

    申请号:CN201710277236.3

    申请日:2017-04-25

    CPC classification number: G06F9/5027

    Abstract: 本发明提供一种GPU任务调度方法及系统,所述系统包括:应用分析模块,用于获取应用程序的各个kernel的指令数;动态任务调度模块,用于判断当前运行的kernel数量是否达到预设的上限值,若否,则从被抢占的kernel以及新到达的kernel中挑选与当前运行的kernel组合形成kernel组合优先级最高的kernel,若是,则继续判断被抢占的kernel和新到达的kernel中是否存在与当前运行kernel进行组合得到更高优先级的kernel组合,若是,则继续判断抢占程序后的GPU性能提升是否大于抢占过程所占用的GPU开销,若是,则进行抢占。本发明有效降低延迟,提高资源利用率,提高GPU的性能。

    GPU任务调度方法及系统
    2.
    发明授权

    公开(公告)号:CN107122245B

    公开(公告)日:2019-06-04

    申请号:CN201710277236.3

    申请日:2017-04-25

    Abstract: 本发明提供一种GPU任务调度方法及系统,所述系统包括:应用分析模块,用于获取应用程序的各个kernel的指令数;动态任务调度模块,用于判断当前运行的kernel数量是否达到预设的上限值,若否,则从被抢占的kernel以及新到达的kernel中挑选与当前运行的kernel组合形成kernel组合优先级最高的kernel,若是,则继续判断被抢占的kernel和新到达的kernel中是否存在与当前运行kernel进行组合得到更高优先级的kernel组合,若是,则继续判断抢占程序后的GPU性能提升是否大于抢占过程所占用的GPU开销,若是,则进行抢占。本发明有效降低延迟,提高资源利用率,提高GPU的性能。

Patent Agency Ranking