公开(公告)号：CN109271015A

公开(公告)日：2019-01-25

申请号：CN201811177821.7

申请日：2018-10-10

Applicant: 杭州电子科技大学

Inventor： 蒋从锋 ,  王济伟 ,  丁佳明 ,  俞俊 ,  赵乃良 ,  樊甜甜 ,  仇烨亮 ,  万健 ,  张纪林 ,  殷昱煜 ,  任祖杰

IPC: G06F1/329 ,  G06F1/3287 ,  G06F1/3206 ,  G06F9/50

Abstract: 本发明公开了一种降低大规模分布式机器学习系统能耗的方法。本发明通过分类器对分布式机器学习系统的负载进行分类识别、状态预测，并通过减少分布式参数服务器间的通信加速任务运行来降低整个分布式机器学习系统的能耗。本发明的方法包含两部分：机器学习负载预测与类型识别方法、分布式机器学习节点间参数“懒同步”机制。本发明通过只将显著更新传递到远程数据中心来减少广域网通信的参数同步机制可以有效减少系统等待时长，加快机器学习收敛速率。对机器学习负载的预测和类型的判别有助于提高工作机的利用率，避免大量工作机开启后处于闲置状态。以上方法缩短了机器学习任务的执行时间，提高了工作机利用率，大大降低了系统能耗。