发明授权
- 专利标题： 一种面向深度学习分层模型的协同推理方法
-
申请号： CN202310459836.7申请日： 2023-04-26
-
公开(公告)号： CN116166444B公开(公告)日： 2023-07-04
- 发明人: 郭永安 , 奚城科 , 周金粮 , 王宇翱 , 钱琪杰
- 申请人： 南京邮电大学
- 申请人地址： 江苏省南京市栖霞区亚东新城文苑路9号
- 专利权人： 南京邮电大学
- 当前专利权人： 南京邮电大学
- 当前专利权人地址： 江苏省南京市栖霞区亚东新城文苑路9号
- 代理机构： 南京正联知识产权代理有限公司
- 代理商 张玉红
- 主分类号： G06F9/50
- IPC分类号： G06F9/50 ; G06N3/08 ; G06N5/04
摘要：
本发明属于端边协同计算领域，公开了一种面向深度学习分层模型的协同推理方法，对深度学习分层模型采取逐层分割的方案，通过边缘计算节点处理速度这一状态信息，只需做一次统一决策，即可为节点匹配计算量合适的不同层推理子任务；还使用网络遥测技术感知节点间网络状态，当出现阻塞问题时即刻对上述整体决策做出相应调整；既降低了决策复杂度，又降低推理时延的同时，同时还提高了边缘节点的资源利用率，保证资源的合理分配。
公开/授权文献
- CN116166444A 一种面向深度学习分层模型的协同推理方法 公开/授权日：2023-05-26
