-
公开(公告)号:CN112383416B
公开(公告)日:2023-05-02
申请号:CN202011200641.3
申请日:2020-11-02
Applicant: 之江实验室
IPC: H04L41/0823 , H04L41/14 , H04L69/08 , H04L67/1095 , H04L67/1097 , H04L67/1004 , H04L41/0654
Abstract: 本发明公开了基于KubeEdge和EdgeX Foundry的智能边缘设备控制平台,包括KubeEdge系统和EdgeX Foundry平台,KubeEdge系统包括云端模块和边缘模块,通过KubeEdge系统将EdgeX Foundry平台部署到边缘节点,并通过边缘模块控制EdgeX Foundry平台;所述云端模块,通过边缘模块控制边缘节点和发布边缘应用;所述边缘模块,用于资源对象的控制,上报边缘信息到云端模块,执行边缘节点应用部署和数据同步到云端。
-
公开(公告)号:CN112783650B
公开(公告)日:2024-01-16
申请号:CN202110075174.4
申请日:2021-01-20
Applicant: 之江实验室
Abstract: 本发明公开一种基于AI芯片的多模型并行推理方法。采用的技术方案包括以下步骤:步骤一:模型转换,至少将Tensorflow/Caffe AI框架训练的模型通过转换工具转换为AI芯片可解析的OM模型;步骤二:加载转换的OM模型,并遵循AscendCL库接口,采用线程方式并行执行多个模型推理。优点如下:针对单一推理模型并不能高效利用AI芯片(如华为公司的Ascend 310芯片)的算力的不足问题,以充分挖掘Ascend 310芯片的算力,研究多模型并行推理,同时能够保持良好的性能。
-