Invention Grant
- Patent Title: 一种面向深度学习分层模型的协同推理方法
-
Application No.: CN202310459836.7Application Date: 2023-04-26
-
Publication No.: CN116166444BPublication Date: 2023-07-04
- Inventor: 郭永安 , 奚城科 , 周金粮 , 王宇翱 , 钱琪杰
- Applicant: 南京邮电大学
- Applicant Address: 江苏省南京市栖霞区亚东新城文苑路9号
- Assignee: 南京邮电大学
- Current Assignee: 南京邮电大学
- Current Assignee Address: 江苏省南京市栖霞区亚东新城文苑路9号
- Agency: 南京正联知识产权代理有限公司
- Agent 张玉红
- Main IPC: G06F9/50
- IPC: G06F9/50 ; G06N3/08 ; G06N5/04
Abstract:
本发明属于端边协同计算领域，公开了一种面向深度学习分层模型的协同推理方法，对深度学习分层模型采取逐层分割的方案，通过边缘计算节点处理速度这一状态信息，只需做一次统一决策，即可为节点匹配计算量合适的不同层推理子任务；还使用网络遥测技术感知节点间网络状态，当出现阻塞问题时即刻对上述整体决策做出相应调整；既降低了决策复杂度，又降低推理时延的同时，同时还提高了边缘节点的资源利用率，保证资源的合理分配。
Public/Granted literature
- CN116166444A 一种面向深度学习分层模型的协同推理方法 Public/Granted day:2023-05-26
Information query
