低时延GPU serverless冷启动方法及系统

    公开(公告)号:CN119271305A

    公开(公告)日:2025-01-07

    申请号:CN202411511885.1

    申请日:2024-10-28

    Abstract: 本发明提供了一种低时延GPU serverless冷启动方法及系统,包括步骤S1:调用checkpoint工具得到应用镜像;步骤S2:通过离线采样得到GPU数据访问顺序;步骤S3:将GPU数据所有权转移给Restore Server;步骤S4:根据离线采样得到的GPU数据访问顺序进行恢复;步骤S5:当待恢复进程恢复完成后转变为目标进程开始运行,使GPU数据在后台Restore Server继续恢复。本发明中各个Restore进程将GPU数据区域的所有权转移给该Server,在后台统一进行GPU数据的恢复;将CPU数据和GPU数据的恢复解耦到不同进程,能够并行恢复,加快了恢复过程。

Patent Agency Ranking