公开(公告)号：CN115913955A

公开(公告)日：2023-04-04

申请号：CN202211239280.2

申请日：2022-10-11

Applicant: 北京邮电大学

Inventor： 范文浩 ,  苏毅 ,  刘元安

IPC: H04L41/083 ,  H04L41/0833 ,  H04L41/0896 ,  G06N20/00 ,  G06N3/092 ,  G06F9/50

Abstract: 本发明公开了一种边缘计算系统中神经网络模型分割与资源分配方法，包括构建边缘计算系统模型与机器学习任务模型；构建机器学习任务端到端时延模型和服务器能耗模型，进而建立长期系统性能优化问题；基于Lyapunov优化技术，将时隙间决策耦合的长期优化问题转化为时隙间决策独立的单时隙优化问题；构建马尔可夫决策过程，将时隙间决策独立的单时隙优化问题转化为强化学习优化问题；基于深度强化学习技术，训练并应用神经网络模型分割与资源分配策略。本发明综合考虑任务到达率、网络传输速率和服务器计算能力等因素，实现神经网络模型分割与计算资源分配动态优化，在充分考虑服务器的能耗预算基础上，加速机器学习推理，提高用户体验。

公开(公告)号：CN115913955B

公开(公告)日：2024-12-10

申请号：CN202211239280.2

申请日：2022-10-11

Applicant: 北京邮电大学

Inventor： 范文浩 ,  苏毅 ,  刘元安

IPC: H04L41/083 ,  H04L41/0833 ,  H04L41/0896 ,  G06N20/00 ,  G06N3/092 ,  G06F9/50

Abstract: 本发明公开了一种边缘计算系统中神经网络模型分割与资源分配方法，包括构建边缘计算系统模型与机器学习任务模型；构建机器学习任务端到端时延模型和服务器能耗模型，进而建立长期系统性能优化问题；基于Lyapunov优化技术，将时隙间决策耦合的长期优化问题转化为时隙间决策独立的单时隙优化问题；构建马尔可夫决策过程，将时隙间决策独立的单时隙优化问题转化为强化学习优化问题；基于深度强化学习技术，训练并应用神经网络模型分割与资源分配策略。本发明综合考虑任务到达率、网络传输速率和服务器计算能力等因素，实现神经网络模型分割与计算资源分配动态优化，在充分考虑服务器的能耗预算基础上，加速机器学习推理，提高用户体验。