保证关键微服务性能质量和降低机器功耗的方法及系统

    公开(公告)号:CN112000469A

    公开(公告)日:2020-11-27

    申请号:CN202010782898.8

    申请日:2020-08-06

    IPC分类号: G06F9/50 G06F1/3234 G06F1/324

    摘要: 本申请公开了保证关键微服务性能质量和降低机器功耗的方法及系统,包括:当应用程序处于在线工作状态时,获取应用程序的关键微服务的每秒输入请求数;根据所述每秒输入请求数,判断应用程序关键微服务的负载等级;获取应用程序关键微服务的负载等级对应的应用程序处于离线工作状态时的cpu最小频率和cpu最大频率;将cpu当前频率与cpu最小频率和cpu最大频率进行比较,并根据比较结果调整cpu当前频率,实现降低cpu功耗的同时保证应用程序中关键微服务的性能质量。

    利用近似计算保证多个延迟敏感程序性能的方法及系统

    公开(公告)号:CN111399998A

    公开(公告)日:2020-07-10

    申请号:CN202010120054.7

    申请日:2020-02-26

    IPC分类号: G06F9/48 G06F9/50 G06F11/30

    摘要: 本发明公开了用近似计算保证多个延迟敏感程序性能的方法及系统,获取待运行的若干个延迟敏感程序;对每个延迟敏感程序,判断其是否为可近似计算的延迟敏感程序;如果否,则获取不可近似计算的延迟敏感程序对应的所需占用的数据中心运行资源;进而,计算可近似计算的延迟敏感程序对应的数据中心提供的运行资源,就获取可近似计算的延迟敏感程序的输出精度范围、源代码和数据中心提供的运行资源;基于可近似计算的延迟敏感程序的输出精度范围和数据中心提供的运行资源,对可近似计算的延迟敏感程序进行近似处理;将可近似和不可近似计算的所有延迟敏感程序,在数据中心共同运行。本发明实现了提高程序性能的同时,使精度损失尽可能小。

    混合内存动态调度方法及系统

    公开(公告)号:CN110618872A

    公开(公告)日:2019-12-27

    申请号:CN201910911507.5

    申请日:2019-09-25

    IPC分类号: G06F9/50

    摘要: 本公开公开了混合内存动态调度方法及系统,通过配置温度寄存器来改变内存延迟和内存带宽,进而模拟出慢内存存储器NVM;将内存分组:根据内存的带宽和延迟,将内存划分为快内存存储器DRAM和慢内存存储器NVM;程序运行时:根据程序的时延要求或执行速度要求,把与程序对应的待处理数据集调入到快内存存储器DRAM或慢内存存储器NVM中;根据程序的运行特征,获取程序在快内存存储器DRAM和慢内存存储器NVM之间相互转移的概率,如果概率大于设定阈值,则获取程序对内存延迟的敏感度和内存带宽的敏感度;根据程序对内存延迟的敏感度和内存带宽的敏感度,实现程序在快内存存储器DRAM和慢内存存储器NVM之间相互转移。

    数据中心环境下减少延迟敏感程序性能干扰的方法及系统

    公开(公告)号:CN112000465B

    公开(公告)日:2023-02-03

    申请号:CN202010705329.3

    申请日:2020-07-21

    摘要: 本发明公开了一种数据中心环境下减少延迟敏感程序性能干扰的方法及系统,包括:获取每一个需要执行的程序对处理器和内存的资源占用率;获取每一个延迟敏感程序的LLC未命中率;将每个服务器节点上执行的延迟敏感程序,分别分配在该服务器的不同NUMA节点;基于获取的资源占有率,分别在每个NUMA节点上为延迟敏感程序和批处理程序分配CPU core;在每个NUMA节点上为延迟敏感程序和批处理程序动态划分LLC区域,保证延迟敏感程序LLC未命中率在设定的范围内。本发明在保证延迟敏感程序性能的同时,可以最大化的提升系统的资源利用率和吞吐量。

    利用近似计算保证多个延迟敏感程序性能的方法及系统

    公开(公告)号:CN111399998B

    公开(公告)日:2022-11-15

    申请号:CN202010120054.7

    申请日:2020-02-26

    IPC分类号: G06F9/48 G06F9/50 G06F11/30

    摘要: 本发明公开了用近似计算保证多个延迟敏感程序性能的方法及系统,获取待运行的若干个延迟敏感程序;对每个延迟敏感程序,判断其是否为可近似计算的延迟敏感程序;如果否,则获取不可近似计算的延迟敏感程序对应的所需占用的数据中心运行资源;进而,计算可近似计算的延迟敏感程序对应的数据中心提供的运行资源,就获取可近似计算的延迟敏感程序的输出精度范围、源代码和数据中心提供的运行资源;基于可近似计算的延迟敏感程序的输出精度范围和数据中心提供的运行资源,对可近似计算的延迟敏感程序进行近似处理;将可近似和不可近似计算的所有延迟敏感程序,在数据中心共同运行。本发明实现了提高程序性能的同时,使精度损失尽可能小。

    基于近似计算的VGG图像特征提取加速方法及系统

    公开(公告)号:CN110633714B

    公开(公告)日:2022-04-15

    申请号:CN201910912744.3

    申请日:2019-09-25

    IPC分类号: G06V10/44 G06V10/82 G06N3/04

    摘要: 本公开公开了基于近似计算的VGG图像特征提取加速方法及系统,获取待加速的基于VGG网络的图像特征提取程序,从待加速的基于VGG网络的图像特征提取程序中识别目标循环程序;对目标循环程序执行穿孔得到初始近似程序,用初始近似程序替换待加速的基于VGG网络的图像特征提取程序中的目标循环程序,即得到加速的基于VGG网络的图像特征提取程序;获取待特征提取的图像,将待特征提取的图像输入到加速的基于VGG网络的图像特征提取程序中,进行特征提取,在特征提取的过程中对初始近似程序执行输出注入;最后得到提取后的特征;所述输出注入即利用与当前迭代输入最相似的历史迭代输入对应的迭代输出值作为当前迭代的输出值。

    基于近似计算的VGG图像特征提取加速方法及系统

    公开(公告)号:CN110633714A

    公开(公告)日:2019-12-31

    申请号:CN201910912744.3

    申请日:2019-09-25

    IPC分类号: G06K9/46 G06N3/04

    摘要: 本公开公开了基于近似计算的VGG图像特征提取加速方法及系统,获取待加速的基于VGG网络的图像特征提取程序,从待加速的基于VGG网络的图像特征提取程序中识别目标循环程序;对目标循环程序执行穿孔得到初始近似程序,用初始近似程序替换待加速的基于VGG网络的图像特征提取程序中的目标循环程序,即得到加速的基于VGG网络的图像特征提取程序;获取待特征提取的图像,将待特征提取的图像输入到加速的基于VGG网络的图像特征提取程序中,进行特征提取,在特征提取的过程中对初始近似程序执行输出注入;最后得到提取后的特征;所述输出注入即利用与当前迭代输入最相似的历史迭代输入对应的迭代输出值作为当前迭代的输出值。

    保证多个延迟关键程序服务质量的缓存划分方法及系统

    公开(公告)号:CN113504977A

    公开(公告)日:2021-10-15

    申请号:CN202110679743.6

    申请日:2021-06-18

    IPC分类号: G06F9/48 G06F9/50 G06F16/906

    摘要: 本发明公开了保证多个延迟关键程序服务质量的缓存划分方法及系统,包括:针对多个延迟关键程序,获取每个延迟关键程序单独运行时的性能参数;根据获取的性能参数,计算每个延迟关键程序的性能指标;根据每个延迟关键程序的性能指标,对每个延迟关键程序进行分类;当多个延迟关键程序混合执行时,根据延迟关键程序的类型进行缓存分配;计算缓存分配后多个延迟关键程序混合执行时的松弛度指标,根据松弛度指标,对缓存空间进行动态调整。该方法在保证多个延迟关键程序性能的同时,又尽可能的提升了最后一级缓存LLC资源的利用率。

    保证延迟敏感程序服务质量的调节方法及系统

    公开(公告)号:CN111399995A

    公开(公告)日:2020-07-10

    申请号:CN202010084612.9

    申请日:2020-02-10

    IPC分类号: G06F9/48 G06F9/50

    摘要: 本公开公开了保证延迟敏感程序服务质量的调节方法及系统,包括:资源采集,采集每一个待执行程序的资源占用率;所述待执行程序,包括:延迟敏感程序和若干个批量程序;假设每个服务器节点上执行一个延迟敏感程序和若干个批量程序;分别为延迟敏感程序和批量程序分配运行资源;实时监控延迟敏感程序运行过程中的性能;根据延迟敏感程序运行过程中的性能与设定阈值进行比较,为延迟敏感程序调整core运行频率和core数量,保证延迟敏感程序服务质量。该方法能够保证延迟敏感程序与批量程序共同执行时的性能要求,同时尽可能的提升系统的资源利用率。

    保证多个延迟关键程序共同执行时服务质量的方法及系统

    公开(公告)号:CN112540934B

    公开(公告)日:2022-07-29

    申请号:CN202011465046.2

    申请日:2020-12-14

    IPC分类号: G06F12/0811

    摘要: 本发明公开了保证多个延迟关键程序共同执行时服务质量的方法及系统,启动多个延迟关键程序;每个延迟关键程序均被预先设置于对应的内核中,每个内核上的延迟关键程序共享最后一级缓存空间;将每个延迟关键程序划分为若干个程序阶段;对每个程序阶段再划分为若干个程序间隔;在多个延迟关键程序被共同运行的过程中,对每个延迟关键程序的每个程序阶段中的程序间隔进行采样;根据采样数据计算每个程序阶段的第一、二和三实际性能数据;根据第一、二和三实际性能数据对相应的程序阶段的阶段类型和性能进行分类;根据每个延迟关键程序的每个程序阶段所处的阶段类型和所处的性能类型,对每个延迟关键程序运行过程中所占用的缓存空间进行动态调整。