一种自适应维度选择的梯度压缩方法

    公开(公告)号:CN117172310A

    公开(公告)日:2023-12-05

    申请号:CN202311141747.4

    申请日:2023-09-05

    Abstract: 本发明提供一种自适应维度选择的梯度压缩方法,用于解决在分布式训练时传输梯度造成的通信开销问题,应用梯度稀疏化方法来对梯度向量进行压缩。本发明包括:基于累积加权梯度的活性维度选取,通过给本轮梯度加权提高其在全局梯度中比重,自适应地发送满足条件的本轮中最为重要的梯度维度。

Patent Agency Ranking