显存管理方法、装置、电子设备和计算机可读存储介质

    公开(公告)号:CN110688327B

    公开(公告)日:2020-12-01

    申请号:CN201910952043.2

    申请日:2019-09-30

    Inventor: 郭越 王桂彬

    Abstract: 本申请公开了装置、电子设备和计算机可读存储介质,涉及模型训练领域。具体实现方案为:在显存池的第一显存空间中,为神经网络模型的第一类信息分配显存块;在显存池的第二显存空间中,为神经网络模型的第二类信息分配显存块;其中,第一显存空间与第二显存空间在显存池中不具有重叠区域;第一类信息占用的显存块能够被回收,第二类信息占用的显存块不能被回收。通过将可回收显存块和不可回收显存块存放在不同的显存空间,可以避免产生分散的显存碎片,进而达到可以充分利用显存资源的效果。

    显存管理方法、装置、电子设备和计算机可读存储介质

    公开(公告)号:CN110688327A

    公开(公告)日:2020-01-14

    申请号:CN201910952043.2

    申请日:2019-09-30

    Inventor: 郭越 王桂彬

    Abstract: 本申请公开了装置、电子设备和计算机可读存储介质,涉及模型训练领域。具体实现方案为:在显存池的第一显存空间中,为神经网络模型的第一类信息分配显存块;在显存池的第二显存空间中,为神经网络模型的第二类信息分配显存块;其中,第一显存空间与第二显存空间在显存池中不具有重叠区域;第一类信息占用的显存块能够被回收,第二类信息占用的显存块不能被回收。通过将可回收显存块和不可回收显存块存放在不同的显存空间,可以避免产生分散的显存碎片,进而达到可以充分利用显存资源的效果。

Patent Agency Ranking