一种容器环境中运行时数据迁移方法及系统

    公开(公告)号:CN113704218B

    公开(公告)日:2024-04-05

    申请号:CN202110985351.2

    申请日:2021-08-26

    Abstract: 一种容器环境中运行时数据迁移方法及系统,涉及容器数据迁移技术领域,用以解决现有迁移方法在迁移过程中传输的数据量过大而导致迁移效率低下的问题。本发明的技术要点包括:对于每个用户设备,数据迁移过程包括:用户端访问新节点,新节点根据用户端请求发送数据迁移指令至旧节点;旧节点接收到数据迁移指令后,使所有运行任务有序退出并通知新节点;新节点获取旧节点连接信息并与其建立连接;旧节点通过NFS方式共享数据到新节点;新节点将旧节点数据挂载并复制到本地用户容器中,完成数据从旧节点到新节点的迁移;其中,新节点以Overlay只读方式挂载数据。本发明通过Overlay+NFS的方式实现迁移,不会拖累系统性能,优化了迁移中传输的数据量和带来的传输延迟。

    一种面向边缘智能的云边端DNN协同推理加速方法

    公开(公告)号:CN113592077A

    公开(公告)日:2021-11-02

    申请号:CN202110895523.7

    申请日:2021-08-05

    Abstract: 一种面向边缘智能的云边端DNN协同推理加速方法,属于DNN推理加速技术领域,用以解决现有的DNN推理任务的响应时间没有得到最大限度的减少的问题。本发明的技术要点包括:针对DAG形式的DNN模型,在原有的两层模型划分基础上,充分考虑云、边、端三层设备,设计了三层两阶段模型划分方法,提高了云边端计算资源的利用率和边缘服务器在极端情况下协同模型的可用性;在将DNN模型划分问题转化为最大流最小割问题的算法基础上,通过图压缩方法对DAG进行预处理,降低了模型划分算法的时间复杂度;进一步增加对于局部并行单元的处理方法,解决了算法在面对复杂DNN模型时的功能缺陷。本发明适用于边缘智能中对DNN模型进行实时动态调整。

    一种基于移动预测和多层服务部署的服务迁移方法和系统

    公开(公告)号:CN112788109B

    公开(公告)日:2022-04-19

    申请号:CN202011602296.6

    申请日:2020-12-29

    Abstract: 一种基于移动预测和多层服务部署的服务迁移方法和系统,属于移动边缘计算技术领域,用以解决当前移动边缘计算环境下服务迁移面临的服务中断时间过长和网络负载过大的问题。本发明根据基于地图数据的MEC服务器节点预测方法准确预测MEC节点并提前同步数据,降低服务迁移时的服务中断时间,确保服务平滑迁移;进一步根据基于多层部署MEC节点的架构,满足高速移动环境下服务平滑迁移,减少服务中断的次数以及服务迁移产生的冗余流量,提升网络服务质量和用户体验质量。本发明为移动边缘计算环境下服务迁移工作提供一种可保障服务质量的、具有高扩展性的实用方法。

    一种面向边缘智能的云边端DNN协同推理加速方法

    公开(公告)号:CN113592077B

    公开(公告)日:2024-04-05

    申请号:CN202110895523.7

    申请日:2021-08-05

    Abstract: 一种面向边缘智能的云边端DNN协同推理加速方法,属于DNN推理加速技术领域,用以解决现有的DNN推理任务的响应时间没有得到最大限度的减少的问题。本发明的技术要点包括:针对DAG形式的DNN模型,在原有的两层模型划分基础上,充分考虑云、边、端三层设备,设计了三层两阶段模型划分方法,提高了云边端计算资源的利用率和边缘服务器在极端情况下协同模型的可用性;在将DNN模型划分问题转化为最大流最小割问题的算法基础上,通过图压缩方法对DAG进行预处理,降低了模型划分算法的时间复杂度;进一步增加对于局部并行单元的处理方法,解决了算法在面对复杂DNN模型时的功能缺陷。本发明适用于边缘智能中对DNN模型进行实时动态调整。

    一种无服务计算中加速启动方法及系统

    公开(公告)号:CN113703867B

    公开(公告)日:2024-01-30

    申请号:CN202110985231.2

    申请日:2021-08-26

    Abstract: 一种无服务计算中加速启动方法及系统,涉及无服务计算技术领域,用以解决现有无服务计算中由于冷启动的存在而导致任务执行的响应时间过长的问题。本发明的技术要点包括:构建两层容器:用户容器和任务容器,每个用户容器对应一个用户设备,对于每个任务请求,容器启动的过程包括查找该任务请求对应的用户容器,如果没有查找到则创建对应的用户容器;创建成功或查找到则将该任务请求转发至用户容器;在用户容器中启动任务容器处理任务请求。本发明中用户容器负责隔离,任务容器负责执行任务,任务容器经过裁剪具有很低的启动延迟;利用过去调用规律预测未来启动来减少冷启动次数,进一步降低启动延迟,相比现有冷启动回收机制具有大幅度提升。

    一种无服务计算中加速启动方法及系统

    公开(公告)号:CN113703867A

    公开(公告)日:2021-11-26

    申请号:CN202110985231.2

    申请日:2021-08-26

    Abstract: 一种无服务计算中加速启动方法及系统,涉及无服务计算技术领域,用以解决现有无服务计算中由于冷启动的存在而导致任务执行的响应时间过长的问题。本发明的技术要点包括:构建两层容器:用户容器和任务容器,每个用户容器对应一个用户设备,对于每个任务请求,容器启动的过程包括查找该任务请求对应的用户容器,如果没有查找到则创建对应的用户容器;创建成功或查找到则将该任务请求转发至用户容器;在用户容器中启动任务容器处理任务请求。本发明中用户容器负责隔离,任务容器负责执行任务,任务容器经过裁剪具有很低的启动延迟;利用过去调用规律预测未来启动来减少冷启动次数,进一步降低启动延迟,相比现有冷启动回收机制具有大幅度提升。

    一种容器环境中运行时数据迁移方法及系统

    公开(公告)号:CN113704218A

    公开(公告)日:2021-11-26

    申请号:CN202110985351.2

    申请日:2021-08-26

    Abstract: 一种容器环境中运行时数据迁移方法及系统,涉及容器数据迁移技术领域,用以解决现有迁移方法在迁移过程中传输的数据量过大而导致迁移效率低下的问题。本发明的技术要点包括:对于每个用户设备,数据迁移过程包括:用户端访问新节点,新节点根据用户端请求发送数据迁移指令至旧节点;旧节点接收到数据迁移指令后,使所有运行任务有序退出并通知新节点;新节点获取旧节点连接信息并与其建立连接;旧节点通过NFS方式共享数据到新节点;新节点将旧节点数据挂载并复制到本地用户容器中,完成数据从旧节点到新节点的迁移;其中,新节点以Overlay只读方式挂载数据。本发明通过Overlay+NFS的方式实现迁移,不会拖累系统性能,优化了迁移中传输的数据量和带来的传输延迟。

    一种基于移动预测和多层服务部署的服务迁移方法和系统

    公开(公告)号:CN112788109A

    公开(公告)日:2021-05-11

    申请号:CN202011602296.6

    申请日:2020-12-29

    Abstract: 一种基于移动预测和多层服务部署的服务迁移方法和系统,属于移动边缘计算技术领域,用以解决当前移动边缘计算环境下服务迁移面临的服务中断时间过长和网络负载过大的问题。本发明根据基于地图数据的MEC服务器节点预测方法准确预测MEC节点并提前同步数据,降低服务迁移时的服务中断时间,确保服务平滑迁移;进一步根据基于多层部署MEC节点的架构,满足高速移动环境下服务平滑迁移,减少服务中断的次数以及服务迁移产生的冗余流量,提升网络服务质量和用户体验质量。本发明为移动边缘计算环境下服务迁移工作提供一种可保障服务质量的、具有高扩展性的实用方法。

Patent Agency Ranking