公开(公告)号：CN112862083B

公开(公告)日：2024-04-09

申请号：CN202110366585.9

申请日：2021-04-06

Applicant: 南京大学

Inventor： 单明慧 ,  张胜 ,  陆桑璐

IPC: G06N3/098 ,  G06N3/042 ,  G06N3/047 ,  G06N5/04 ,  G06N5/01

Abstract: 本发明提出了一种边缘环境下的深度神经网络推断方法及装置，将边缘计算和DNN推断的过程结合起来，在边缘内实现DNN推断的加速，使得DNN推断过程能够更加贴合边缘计算环境的特点。所述方法结合边缘环境自适应地对DAG拓扑结构的DNN进行分割，为了实现自适应的过程，该方法分别针对计算设备同构和异构的不同情况，并采用贪心的思想根据当前边缘环境对DNN进行分割。本发明对DNN进行的分割能够根据边缘环境自适应地调整分割策略，有效地解决单个边缘设备计算能力较弱的问题，加快边缘环境下DNN推断的速度，提高用户体验。

公开(公告)号：CN112862083A

公开(公告)日：2021-05-28

申请号：CN202110366585.9

申请日：2021-04-06

Applicant: 南京大学

Inventor： 单明慧 ,  张胜 ,  陆桑璐

IPC: G06N3/04 ,  G06N3/08 ,  G06N5/04

Abstract: 本发明提出了一种边缘环境下的深度神经网络推断方法及装置，将边缘计算和DNN推断的过程结合起来，在边缘内实现DNN推断的加速，使得DNN推断过程能够更加贴合边缘计算环境的特点。所述方法结合边缘环境自适应地对DAG拓扑结构的DNN进行分割，为了实现自适应的过程，该方法分别针对计算设备同构和异构的不同情况，并采用贪心的思想根据当前边缘环境对DNN进行分割。本发明对DNN进行的分割能够根据边缘环境自适应地调整分割策略，有效地解决单个边缘设备计算能力较弱的问题，加快边缘环境下DNN推断的速度，提高用户体验。