-
公开(公告)号:CN117785796A
公开(公告)日:2024-03-29
申请号:CN202410003678.9
申请日:2024-01-02
Applicant: 上海交通大学
IPC: G06F15/82 , G06F15/177 , G06F9/38
Abstract: 一种基于中心‑单机双端交互架构的轨迹采集选核方法及系统,由中心控制端进行对应用轨迹的采集指令下发,中心控制端根据采集指令缓存发送指令,当缓存未命中则由单机端进行指令生成;单机端接收指令后,通过采集指令解析判断采集指令为默认指令时,根据Binary检测、线程数检测、单机负载检测以及随机选核生成对应指令进行PT数据采集,否则根据指令中的采集配置进行采集;采集完毕后,单机端将采集数据包和采集指令反馈到中心控制端进行数据分析。本发明通过中心‑单机双端采集交互,基于硬件追踪的采集能力进行应用的执行程序流采集,能够显著提高采集数据的覆盖率以及整个采集流程的效能。
-
公开(公告)号:CN114205419B
公开(公告)日:2023-04-18
申请号:CN202111524128.4
申请日:2021-12-14
Applicant: 上海交通大学
Abstract: 一种面向微服务多维扰动特征的数据中心请求调度系统及方法,包括:微服务特征获取模块、微服务并行化模块和运行时优化模块,其中:微服务特征获取模块采集并刻画微服务的内部运行逻辑、微服务运行时间与资源供给关系以及微服务所处的网络条件三个方面的扰动特征;微服务并行化模块根据请求调用的微服务的扰动特征的互补性编排为最优的微服务并行化流水线各阶段;运行时优化模块解决微服务并行化流水线在实际运行时因扰动特征而造成的时间变化实时问题、资源变化实时问题和顺序变化实时问题;本发明通过采集并刻画不同微服务运行时的多维扰动特征并针对微服务运行时的多维扰动特征进行一种并行化的互补调度,搭建不同请求调用的不同微服务间的并行化流水线;本发明能够提高微服务架构应用请求调度的资源利用率和吞吐量。
-
公开(公告)号:CN118260085A
公开(公告)日:2024-06-28
申请号:CN202410447414.2
申请日:2024-04-15
Applicant: 上海交通大学
Abstract: 一种QoS感知的CPU优化核粒度函数调度系统及方法,包括:核粒度的节点内调度器、函数分析器、频率调节器、延迟预测器、函数分析数据收集器、运行时数据收集器和函数执行器,本发明考虑真实调度过程中存在的开销,能够以CPU核心为调度粒度对函数进行计算资源分配并优化系统的能效表现,基于此实现服务器负载情况与函数处理优先级感知的系统功率调控系统,充分挖掘服务器无感知计算架构下的能效潜力。
-
公开(公告)号:CN115129475A
公开(公告)日:2022-09-30
申请号:CN202210813618.4
申请日:2022-07-12
Applicant: 上海交通大学
Abstract: 一种服务器无感知计算平台能效优化方法和系统,通过采集服务器无感知平台上函数在初始化阶段和运行阶段的特征信息,联合其中特征相同的函数并构成若干同步化函数集合后,对应分发到具有空闲计算资源的函数处理节点并部署至对应处理核上,再更新特征信息用于实现循环能效管理。本发明通过识别服务器无感知计算函数的最佳运行频率的差异,以及函数最佳运行频率的时序差异,提出功率同步机制同步函数的最佳运行频率,保证函数可以在整个生命周期都按照最佳运行频率运行。
-
公开(公告)号:CN119728775A
公开(公告)日:2025-03-28
申请号:CN202411917607.6
申请日:2024-12-24
Applicant: 上海交通大学
IPC: H04L67/566 , H04L67/568 , H04L47/6295 , H04L47/62
Abstract: 一种云内存池中服务感知的多队列节点内存管理系统及方法,包括:内存服务离线分析模块、服务感知的内存节点管理模块和高带宽的并行数据交换子系统,其中:内存服务离线分析模块对基于云内存池的内存服务进行数据预分析,为内存服务赋予数据卸载标签;服务感知的内存节点管理模块构建分层存储,根据服务的数据卸载标签对进入云内存池的数据加上数据卸载标签,并根据数据卸载标签对数据进行差异化管理,控制数据的卸载;高带宽并行数据交换子系统用于内存节点中数据的数据卸载I/O。本发明通过构造支持高并行的高带宽数据交换的多层级内存存储结构,用云存储扩展内存以降低内存资源使用,分析云内存服务的数据特点并实现云内存池中服务数据的差异化管理,提升数据整体访问效率,进而降低内存资源占用,提高数据中心内存资源效率。
-
公开(公告)号:CN116842994B
公开(公告)日:2024-03-01
申请号:CN202310805891.7
申请日:2023-07-03
Applicant: 上海交通大学
IPC: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
Abstract: 一种多神经网络执行效率动态优化方法及系统,在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件,采用智能搜索算法寻找帕累托最优的调度配置,记录搜索过程中找到的所有候选配置,并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表;同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表;在在线阶段根据系统延迟需求,从最优配置查找表中选择匹配的最优调度配置,持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间,通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化,也能应对多硬件单元共享内存导致的性能干扰,解决了多个神(56)对比文件Yangjie Zhou, at el..“uGrapher:High-Performance Graph Poerator Computationvia Unified Abstraction for Graph NeuralNetworks”《.Proceeding of the 28th ACMIneternationial Conference onArchitectural Support for ProgrammingLanguages and Operating Systems》.2023,全文.任神河;郑寇全;关冬冬;惠军华.基于IFTS的云计算网络动态负载均衡方法.系统工程理论与实践.2019,(第05期),全文.
-
公开(公告)号:CN116842994A
公开(公告)日:2023-10-03
申请号:CN202310805891.7
申请日:2023-07-03
Applicant: 上海交通大学
IPC: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
Abstract: 一种多神经网络执行效率动态优化方法及系统,在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件,采用智能搜索算法寻找帕累托最优的调度配置,记录搜索过程中找到的所有候选配置,并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表;同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表;在在线阶段根据系统延迟需求,从最优配置查找表中选择匹配的最优调度配置,持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间,通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化,也能应对多硬件单元共享内存导致的性能干扰,解决了多个神经网络推理负载如何统一进行调度优化的问题。
-
公开(公告)号:CN116414556A
公开(公告)日:2023-07-11
申请号:CN202211548729.3
申请日:2022-12-05
Applicant: 上海交通大学
IPC: G06F9/50
Abstract: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法,包括:实时系统监测模块和实时电力分配模块,实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态;实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力,并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策,显著提高嵌入式设备的总体资源利用率和系统能效,保证电力分配的高实时性和自适应性。
-
公开(公告)号:CN116414556B
公开(公告)日:2024-01-30
申请号:CN202211548729.3
申请日:2022-12-05
Applicant: 上海交通大学
IPC: G06F9/50
Abstract: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法,包括:实时系统监测模块和实时电力分配模块,实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态;实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力,并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策,显著提高嵌入式设备的总体资源利用率和系统能效,保证电力分配的高实时性和自适应性。
-
公开(公告)号:CN114205419A
公开(公告)日:2022-03-18
申请号:CN202111524128.4
申请日:2021-12-14
Applicant: 上海交通大学
Abstract: 一种面向微服务多维扰动特征的数据中心请求调度系统及方法,包括:微服务特征获取模块、微服务并行化模块和运行时优化模块,其中:微服务特征获取模块采集并刻画微服务的内部运行逻辑、微服务运行时间与资源供给关系以及微服务所处的网络条件三个方面的扰动特征;微服务并行化模块根据请求调用的微服务的扰动特征的互补性编排为最优的微服务并行化流水线各阶段;运行时优化模块解决微服务并行化流水线在实际运行时因扰动特征而造成的时间变化实时问题、资源变化实时问题和顺序变化实时问题;本发明通过采集并刻画不同微服务运行时的多维扰动特征并针对微服务运行时的多维扰动特征进行一种并行化的互补调度,搭建不同请求调用的不同微服务间的并行化流水线;本发明能够提高微服务架构应用请求调度的资源利用率和吞吐量。
-
-
-
-
-
-
-
-
-