-
公开(公告)号:CN110515722A
公开(公告)日:2019-11-29
申请号:CN201910680380.0
申请日:2019-07-26
Applicant: 西安电子科技大学
Abstract: 本发明提出了一种在云端实现神经网络模型并行的方法用于解决现有技术中存在的云端服务器不完全空闲的情况下,单云端服务器或多云端服务器性能的评估不准确,导致云端服务器资源利用不均衡,神经网络模型并行训练时间增加的技术问题。实现步骤为:构建云端服务器群,并计算每台云端服务器的有效性能;建立神经网络模型;实现神经网络模型并行。本发明通过权衡服务器的资源利用率,计算单云端服务器的有效性能,然后逐一计算所有云端服务器的有效性能,以有效性能为依据,实现神经网络模型并行,使各云端服务器的计算时间相同、计算资源利用率最大化,降低神经网络模型并行的训练总耗时。