-
公开(公告)号：CN116414556B
公开(公告)日：2024-01-30
申请号：CN202211548729.3
申请日：2022-12-05
Applicant: 上海交通大学
IPC: G06F9/50
Abstract: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法，包括：实时系统监测模块和实时电力分配模块，实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态；实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力，并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策，显著提高嵌入式设备的总体资源利用率和系统能效，保证电力分配的高实时性和自适应性。
-
公开(公告)号：CN116842994B
公开(公告)日：2024-03-01
申请号：CN202310805891.7
申请日：2023-07-03
Applicant: 上海交通大学
IPC: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
Abstract: 一种多神经网络执行效率动态优化方法及系统，在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件，采用智能搜索算法寻找帕累托最优的调度配置，记录搜索过程中找到的所有候选配置，并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表；同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表；在在线阶段根据系统延迟需求，从最优配置查找表中选择匹配的最优调度配置，持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间，通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化，也能应对多硬件单元共享内存导致的性能干扰，解决了多个神(56)对比文件Yangjie Zhou, at el..“uGrapher:High-Performance Graph Poerator Computationvia Unified Abstraction for Graph NeuralNetworks”《.Proceeding of the 28th ACMIneternationial Conference onArchitectural Support for ProgrammingLanguages and Operating Systems》.2023,全文.任神河;郑寇全;关冬冬;惠军华.基于IFTS的云计算网络动态负载均衡方法.系统工程理论与实践.2019,(第05期),全文.
-
公开(公告)号：CN116842994A
公开(公告)日：2023-10-03
申请号：CN202310805891.7
申请日：2023-07-03
Applicant: 上海交通大学
IPC: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
Abstract: 一种多神经网络执行效率动态优化方法及系统，在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件，采用智能搜索算法寻找帕累托最优的调度配置，记录搜索过程中找到的所有候选配置，并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表；同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表；在在线阶段根据系统延迟需求，从最优配置查找表中选择匹配的最优调度配置，持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间，通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化，也能应对多硬件单元共享内存导致的性能干扰，解决了多个神经网络推理负载如何统一进行调度优化的问题。
-
公开(公告)号：CN116414556A
公开(公告)日：2023-07-11
申请号：CN202211548729.3
申请日：2022-12-05
Applicant: 上海交通大学
IPC: G06F9/50
Abstract: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法，包括：实时系统监测模块和实时电力分配模块，实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态；实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力，并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策，显著提高嵌入式设备的总体资源利用率和系统能效，保证电力分配的高实时性和自适应性。
-
-
-
Search Results
4
records
(took 0.018 seconds)
