公开(公告)号：CN108710536B

公开(公告)日：2021-08-06

申请号：CN201810285080.8

申请日：2018-04-02

Applicant: 上海交通大学

Inventor： 姚建国 ,  赵晓辉 ,  高平 ,  管海兵

IPC: G06F9/50

Abstract: 本发明公开了一种多层次细粒度的虚拟化GPU调度优化方法，分别用了3种方式来优化调度策略：基于时间和事件的调度，基于流水线的无缝调度，以及混合基于环及基于虚拟机的调度。这3种调度策略分别利用了两个虚拟机切换造成的开销、虚拟机运行分成多个阶段同时运行以及多个虚拟机利用不同环同时工作这三点作为优化方法。本发明通过修改调度器及调度策略，大大降低了切换过程的开销，并且支持了多个虚拟GPU之间的并行执行，因此一个物理GPU共享的多个虚拟GPU的性能都能得到显著的提升，从而提升总体性能。发明使物理GPU的利用率提升，从而进一步使虚拟GPU的性能提升。此外，本方法同时保证了虚拟GPU依然符合服务质量要求。

公开(公告)号：CN108710536A

公开(公告)日：2018-10-26

申请号：CN201810285080.8

申请日：2018-04-02

Applicant: 上海交通大学

Inventor： 姚建国 ,  赵晓辉 ,  高平 ,  管海兵

IPC: G06F9/50

CPC classification number: G06F9/5027 ,  G06F9/5038

Abstract: 本发明公开了一种多层次细粒度的虚拟化GPU调度优化方法，分别用了3种方式来优化调度策略：基于时间和事件的调度，基于流水线的无缝调度，以及混合基于环及基于虚拟机的调度。这3种调度策略分别利用了两个虚拟机切换造成的开销、虚拟机运行分成多个阶段同时运行以及多个虚拟机利用不同环同时工作这三点作为优化方法。本发明通过修改调度器及调度策略，大大降低了切换过程的开销，并且支持了多个虚拟GPU之间的并行执行，因此一个物理GPU共享的多个虚拟GPU的性能都能得到显著的提升，从而提升总体性能。发明使物理GPU的利用率提升，从而进一步使虚拟GPU的性能提升。此外，本方法同时保证了虚拟GPU依然符合服务质量要求。