基于服务质量的微服务调度方法、系统及电子设备

    公开(公告)号:CN111597048B

    公开(公告)日:2022-09-23

    申请号:CN202010413443.9

    申请日:2020-05-15

    Abstract: 本发明提供一种基于服务质量的微服务调度方法、系统及电子设备,所述方法包括:在Serverless模式下,根据运行时特征采集数据,获取当前微服务请求的实际平均到达率λ;根据决策函数、微服务请求的平均服务速率和服务质量目标,计算出切换所需要达到的平均到达率λ(μ);若微服务请求的实际平均到达率λ小于等于切换所需要达到的平均到达率λ(μ),则保持微服务部署于Serverless模式,若微服务请求的实际平均到达率λ大于切换所需要达到的平均到达率λ(μ),则调整微服务部署于IaaS模式。本发明实现了动态部署IaaS模式和Serverless模式的切换。

    一种基于LRC编码的部分条带写优化方法及装置

    公开(公告)号:CN112783689B

    公开(公告)日:2022-09-02

    申请号:CN202110184332.X

    申请日:2021-02-08

    Abstract: 本申请公开了一种基于LRC编码的部分条带写优化方法及装置,该方法包括:获取读写请求和云存储阵列的位图;根据所述位图对所述读写请求进行预处理,以识别获得所述读写请求中的部分条带写请求;响应所述部分条带写请求,根据基于读代价的动态部分条带写算法DRPS,从所述云存储阵列中读取对应的目标块;对所述目标块进行计算得到新校验块,并将所述新校验块写入所述云存储阵列中。通过实施本申请,能解决现有技术中存在的额外的传输开销和总线负载、导致系统的传输效率、服务质量以传输可靠性降低等问题。

    资源需求感知的多队列调度方法、系统及服务器

    公开(公告)号:CN113407313B

    公开(公告)日:2022-05-17

    申请号:CN202011357682.3

    申请日:2020-11-27

    Abstract: 本发明提供一种资源需求感知的多队列调度方法、系统及服务器,所述方法包括:获取用户提交的任务,并判断任务为CPU任务或GPU任务;在任务为GPU任务时,基于调整CPU核数并检查GPU利用率确定最优的CPU配置,进入GPU任务任务调度;在任务为CPU任务时,直接进入CPU任务调度;执行GPU任务调度:对CPU资源划进行划分,并根据当前CPU任务队列和GPU任务队列的排队状况调整CPU资源队列;对GPU资源划进行划分,并根据当前GPU任务队列的排队状况调整GPU资源队列;消除GPU任务与CPU任务在同一个节点上的内存系统的竞争。本发明可以在无需用户感知的前提下,最大化系统的吞吐和最小化系统的排队。

    面向微服务多维扰动特征的数据中心请求调度系统及方法

    公开(公告)号:CN114205419A

    公开(公告)日:2022-03-18

    申请号:CN202111524128.4

    申请日:2021-12-14

    Abstract: 一种面向微服务多维扰动特征的数据中心请求调度系统及方法,包括:微服务特征获取模块、微服务并行化模块和运行时优化模块,其中:微服务特征获取模块采集并刻画微服务的内部运行逻辑、微服务运行时间与资源供给关系以及微服务所处的网络条件三个方面的扰动特征;微服务并行化模块根据请求调用的微服务的扰动特征的互补性编排为最优的微服务并行化流水线各阶段;运行时优化模块解决微服务并行化流水线在实际运行时因扰动特征而造成的时间变化实时问题、资源变化实时问题和顺序变化实时问题;本发明通过采集并刻画不同微服务运行时的多维扰动特征并针对微服务运行时的多维扰动特征进行一种并行化的互补调度,搭建不同请求调用的不同微服务间的并行化流水线;本发明能够提高微服务架构应用请求调度的资源利用率和吞吐量。

    面向多阶段AI云服务的高吞吐异构资源管理方法及器件

    公开(公告)号:CN114035935A

    公开(公告)日:2022-02-11

    申请号:CN202111193853.8

    申请日:2021-10-13

    Abstract: 本发明提供一种面向多阶段AI云服务的高吞吐异构资源管理方法及器件,所述面向多阶段AI云服务的高吞吐异构资源管理方法包括:利用一服务质量目标分配器基于接收到的LC服务的请求将服务质量目标拆分为CPU侧服务质量目标和GPU侧服务质量目标;利用一异构资源管理器以CPU侧服务质量目标和GPU侧服务质量目标作为初始样本搜索最佳资源分配;利用一服务质量补偿器实时监测CPU阶段的进度,并在用户请求在CPU阶段花费的时间超过其CPU的服务质量目标时,加速其在加速器端的执行。本发明既保证LC服务的服务质量,又极大地提高了异构设备上所有BE应用的综合性能。

    基于函数中间表达的无服务器计算调度系统及方法

    公开(公告)号:CN113238853B

    公开(公告)日:2021-11-12

    申请号:CN202110659654.5

    申请日:2021-06-15

    Abstract: 一种基于函数中间表达的无服务器计算函数调度系统及方法,包括:函数特征获取模块、函数聚集模块、映射模块和调节模块,其中:函数特征获取模块获取函数的编程语言特征、函数的运行时阶段特征以及函数的微体系结构特征;函数聚集模块将函数按照不同的特征聚集成为不同的函数集合;映射模块根据不同的函数集合,将CPU核分为初始化阶段CPU核、运行时阶段CPU核以及混合CPU核;调节模块根据函数的特征和CPU核的分类将函数部署到指定的核上,并根据函数特征的变化对函数周期性地进行迁移以及每个核的频率调节,从而保证无服务器计算函数可以按照最优运行点运行。该系统可以提高无服务器计算系统的能效。

    基于函数中间表达的无服务器计算调度系统及方法

    公开(公告)号:CN113238853A

    公开(公告)日:2021-08-10

    申请号:CN202110659654.5

    申请日:2021-06-15

    Abstract: 一种基于函数中间表达的无服务器计算函数调度系统及方法,包括:函数特征获取模块、函数聚集模块、映射模块和调节模块,其中:函数特征获取模块获取函数的编程语言特征、函数的运行时阶段特征以及函数的微体系结构特征;函数聚集模块将函数按照不同的特征聚集成为不同的函数集合;映射模块根据不同的函数集合,将CPU核分为初始化阶段CPU核、运行时阶段CPU核以及混合CPU核;调节模块根据函数的特征和CPU核的分类将函数部署到指定的核上,并根据函数特征的变化对函数周期性地进行迁移以及每个核的频率调节,从而保证无服务器计算函数可以按照最优运行点运行。该系统可以提高无服务器计算系统的能效。

    基于服务质量感知提高吞吐量的多资源管理系统及服务器

    公开(公告)号:CN109947619B

    公开(公告)日:2021-07-13

    申请号:CN201910164582.X

    申请日:2019-03-05

    Abstract: 本发明提供一种基于服务质量感知提高吞吐量的多资源管理系统及服务器,所述基于服务质量感知提高吞吐量的多资源管理系统包括:在线预测器,用于根据预设预测模型预测每个延迟敏感型应用请求在给定资源配置下的运行时间;资源分配器,用于根据预测的所述运行时间为所述延迟敏感型应用请求分配满足服务质量的资源配置;动态QoS监视器,用于确定当前的内存带宽竞争是否会引起QoS违例,并在确定当前的内存带宽竞争会引起QoS违例时对所述资源配置进行调整。本发明在保证延迟敏感型应用的服务质量的提前下,极大提高了批处理任务的吞吐量,有效解决了现有技术中在保证应用的服务质量过程中资源利用率低的问题。

    一种基于视频分层存储的近似纠删码编码方法及装置

    公开(公告)号:CN112860476A

    公开(公告)日:2021-05-28

    申请号:CN202110195837.6

    申请日:2021-02-19

    Abstract: 本申请公开了一种基于视频分层存储的近似纠删码编码方法及装置,该方法包括:将视频数据切分为重要数据和次要数据;从预存的数据分布结构中选择目标数据结构;根据所述目标数据结构将所述重要数据和次要数据生成对应的数据块;采用近似纠删码对生成的所述数据块进行编码计算,得到对应的校验块;将所述数据块和所述校验块写入对应的磁盘节点中。通过实施本申请,能够解决现有技术中存在的存储开销较高,且无法保证数据存储的高可靠性等问题。

    一种基于磁盘阵列扩展的数据块重分布方法及装置

    公开(公告)号:CN112817540A

    公开(公告)日:2021-05-18

    申请号:CN202110203507.7

    申请日:2021-02-23

    Abstract: 本申请公开了一种基于磁盘阵列扩展的数据块重分布方法及装置,该方法包括:获取原始磁盘阵列中各磁盘之间的当前IO访问量;调用神经网络预测模型对所述原始磁盘阵列中每个磁盘的当前IO访问量进行预测,得到每个磁盘对应的预测IO访问量;根据所述预测IO访问量,确定所述原始磁盘阵列中的热访问磁盘;从所述热访问磁盘中选取当前IO访问量超过所述热访问磁盘对应的平均访问量的数据块,作为热访问数据块;按照预设的迁移规则,将所述热访问数据块迁移重写入扩展磁盘阵列的新增磁盘中。通过实施本申请,能够解决现有技术中存在的无法实现IO访问的整体平衡等问题。

Patent Agency Ranking