一种分布式联邦学习的两阶段编码方法及相关装置

    公开(公告)号:CN116484980A

    公开(公告)日:2023-07-25

    申请号:CN202310273893.6

    申请日:2023-03-17

    Abstract: 本申请公开了一种分布式联邦学习的两阶段编码方法及相关装置,所述方法包括控制参与工作节点确定各自对应的冗余数据块,并基于所述冗余数据块训练目标模型;接收截止预设时间完成训练的目标工作节点上传的局部梯度;将截止预设时间未完成的目标工作节点作为掉队节点,控制备份工作节点基于其对应的冗余数据块训练目标模型,以及接收备份工作节点上传的局部梯度;对接收到的所有局部梯度进行聚合更新以得到全局梯度。本申请采用数据冗余制度在工作节点间相互备份,仅需部分节点恢复完整梯度,不需要等待掉队者,从而可以避免补偿掉队者对系统造成的影响,减少了因为掉队者产生的数据冗余程度。

Patent Agency Ranking