公开(公告)号：CN113472597B

公开(公告)日：2022-07-22

申请号：CN202110936232.8

申请日：2021-08-16

Applicant: 东北大学

Inventor： 曾荣飞 ,  姜珊 ,  王兴伟

IPC: H04L41/0823 ,  H04L41/14

Abstract: 本发明实施例公开一种分布式卷积神经网络细粒度的参数传输调度方法及装置，包括：根据分布式卷积神经网络底层计算图依赖关系、资源关联图及网络属性确认接收操作的优先执行顺序，并生成操作‑优先级映射表，资源关联图为与每个操作相关联的资源标签的计算图，资源标签包括通信与计算；根据操作‑优先级映射表、以及每个接收操作相关联的通信/计算依赖关系，生成参数‑优先级映射表；建立参数服务器与每个计算节点之间的至少一个数据流，并为每个数据流分配唯一标识信息，根据标识信息生成通道‑优先级映射表；基于接收到的参数发送请求，分别查找参数‑优先级映射表和通道‑优先级映射表，根据参数的优先级分配相应优先级的网络流，将参数发送至网络设备中。

公开(公告)号：CN113472597A

公开(公告)日：2021-10-01

申请号：CN202110936232.8

申请日：2021-08-16

Applicant: 东北大学

Inventor： 曾荣飞 ,  姜珊 ,  王兴伟

IPC: H04L12/24

Abstract: 本发明实施例公开一种分布式卷积神经网络细粒度的参数传输调度方法及装置，包括：根据分布式卷积神经网络底层计算图依赖关系、资源关联图及网络属性确认接收操作的优先执行顺序，并生成操作‑优先级映射表，资源关联图为与每个操作相关联的资源标签的计算图，资源标签包括通信与计算；根据操作与优先级映射表、以及每个接收操作相关联的通信/计算依赖关系，生成参数‑优先级映射表；建立参数服务器与每个计算节点之间的至少一个数据流，并为每个数据流分配唯一标识信息，根据标识信息生成通道‑优先级映射表；基于接收到的参数发送请求，分别查找参数‑优先级映射表和通道‑优先级映射表，根据参数的优先级分配相应优先级的网络流，将参数发送至网络结构中。