基于历史升降级频率的多级缓存方法

    公开(公告)号:CN104834609A

    公开(公告)日:2015-08-12

    申请号:CN201510289987.8

    申请日:2015-05-31

    Abstract: 本发明提供了一种基于历史升降级频率的多级缓存方法,本发明基于数据块的历史隐示信息,而历史隐示信息是多级缓存系统的精髓之一,通过隐示频率,能够有效地识别出热数据块,并使其在更高级的缓存中能更长久地保存,增大了系统的数据块命中率,减少了平均反应时间;本发明将传统的LRU栈分为两个专用的队列,使得隐示信息具有局部性,避免了冷热数据块混杂,减少了各级缓存之间的带宽的使用;本发明通过有效地识别热数据块,该算法使得热数据块在高级缓存中能长时间地保存,减少了各级缓存之间的降级、升级操作,进一步减小了各级缓存之间的带宽消耗;本发明的空间消耗非常小,为各种负载下系统更好的读写性能打下了基础。

    一种基于压缩长度的文本分类方法

    公开(公告)号:CN119988625A

    公开(公告)日:2025-05-13

    申请号:CN202510016976.6

    申请日:2025-01-06

    Abstract: 本发明涉及一种基于压缩长度的文本分类方法,方法包括以下步骤:S1、获取训练文本数据,所述训练文本数据包括多个类别的带标签数据;S2、对于每个类别的带标签数据训练CPC个压缩机,得到n个类别分别对应的CPC个分类模型,其中n表示类别的总数,获取待预测样本;S3、将待预测样本分别输入n个类别分别对应的CPC个分类模型,得到n个类别分别对应的CPC个长度,计算每个类别对应的平均长度,得到n个平均长度;S4、取n个平均长度的最小值,最小的平均长度对应的类别为分类结果。与现有技术相比,本发明具有提高大规模数据的文本分类效率的同时保证分类准确率等优点。

    针对跨域数据中心的纠删码方法、系统及可读存储介质

    公开(公告)号:CN116015552B

    公开(公告)日:2025-03-07

    申请号:CN202211700534.6

    申请日:2022-12-28

    Abstract: 本发明提供了一种针对跨域数据中心的纠删码方法、系统及可读存储介质,方法包括以下步骤:S1、使用二层编码的编码方式,将k个数据块分成p个局部校验分组,并使用MSR编码在每个局部校验分组中生成l个局部校验块,然后使用RS编码生成g个全局校验块,将所有的全局校验块组成一个全局校验分组,和局部校验分组一起共生成p+1个分组;S2、对p+1个分组在N个数据中心内的放置策略进行建模,求解访问延时和恢复传输延时的优化问题,得到分组放置概率矩阵P;S3、根据分组放置概率矩阵P把p+1个块分组放置在N个数据中心内。本发明通过使用MSR和RS的双层编码,并进行放置策略优化,有效解决了数据恢复过程中跨数据中心传输流量大和用户访问延时高的问题。

    一种基于边缘计算的任务调度方法

    公开(公告)号:CN114546608B

    公开(公告)日:2024-06-07

    申请号:CN202210007565.7

    申请日:2022-01-06

    Inventor: 秦秀文 李颉

    Abstract: 本发明涉及一种基于边缘计算的任务调度方法,该方法包括以下步骤:各区域维护有一策略网络,基于该策略网络和实时环境,各区域独立对本区域内实时接收到的任务进行调度;所述策略网络的网络参数采用基于联邦学习的深度强化学习算法进行在线更新,具体地:各区域保存历史数据形成本地数据集,基于本地数据集进行深度强化学习训练,更新网络参数,训练目标为最小化所有任务的奖励值;各区域将自身网络参数发送至中央基站,中央基站进行基于联邦学习的统一更新后,将更新后的网络参数反馈给各区域。与现有技术相比,本发明具有增强模型扩展性、保护数据隐私性、提高系统性能等优点。

    基于图的纠删码快速恢复方法、系统及可读存储介质

    公开(公告)号:CN115826873A

    公开(公告)日:2023-03-21

    申请号:CN202211700616.0

    申请日:2022-12-28

    Abstract: 本发明提供了一种基于图的纠删码快速恢复方法、系统及可读存储介质,方法包括以下步骤:S1、通过量化的方法收集系统参数以及各个节点的实时负载信息;S2、构建两个图模型,两个图模型分别对应恢复任务中源节点的选择和解码节点的选择;S3、使用最大流算法得到一个各个节点的可用带宽刚好被占满的最优解,即恢复调度方案;S4、根据恢复调度方案将各个恢复任务从选定的源节点发送给对应的解码节点进行数据块的读取,然后在解码节点上解码恢复完成后将数据写入系统设定的目标节点上。通过将各个节点的可用带宽放入图模型中进行调度,并基于最大流算法保证各个节点的任务调度不会超过其可用带宽,实现了更高维度的负载均衡,避免出现拥塞堵塞现象。

    一种基于键值对存储系统的纠删码编码方法及装置

    公开(公告)号:CN112799872A

    公开(公告)日:2021-05-14

    申请号:CN202110191784.0

    申请日:2021-02-19

    Abstract: 本申请公开了一种基于键值对存储系统的纠删码编码方法及装置,该方法包括:获取键值对存储系统中关键字之间的关联关系;根据所述关键字之间的关联关系,从所述键值对存储系统中获取对应的具有强关联性或强时间局限性的至少两个目标数据;将至少两个所述目标数据分到同一编码组中进行编码,得到对应的数据块和校验块;采用负载均衡将得到的所述数据块和所述校验块写入对应的存储节点中。通过实施本申请,能将传统纠删码技术与新型键值对存储系统进行结合设计,同时结合考虑键值对存储系统中的数据间关系,以减少数据访问的次数和时间,提升数据恢复效率。

    一种基于LRC编码的部分条带写优化方法及装置

    公开(公告)号:CN112783689A

    公开(公告)日:2021-05-11

    申请号:CN202110184332.X

    申请日:2021-02-08

    Abstract: 本申请公开了一种基于LRC编码的部分条带写优化方法及装置,该方法包括:获取读写请求和云存储阵列的位图;根据所述位图对所述读写请求进行预处理,以识别获得所述读写请求中的部分条带写请求;响应所述部分条带写请求,根据基于读代价的动态部分条带写算法DRPS,从所述云存储阵列中读取对应的目标块;对所述目标块进行计算得到新校验块,并将所述新校验块写入所述云存储阵列中。通过实施本申请,能解决现有技术中存在的额外的传输开销和总线负载、导致系统的传输效率、服务质量以传输可靠性降低等问题。

    基于历史升降级频率的多级缓存方法

    公开(公告)号:CN104834609B

    公开(公告)日:2017-12-22

    申请号:CN201510289987.8

    申请日:2015-05-31

    Abstract: 本发明提供了一种基于历史升降级频率的多级缓存方法,本发明基于数据块的历史隐示信息,而历史隐示信息是多级缓存系统的精髓之一,通过隐示频率,能够有效地识别出热数据块,并使其在更高级的缓存中能更长久地保存,增大了系统的数据块命中率,减少了平均反应时间;本发明将传统的LRU栈分为两个专用的队列,使得隐示信息具有局部性,避免了冷热数据块混杂,减少了各级缓存之间的带宽的使用;本发明通过有效地识别热数据块,该算法使得热数据块在高级缓存中能长时间地保存,减少了各级缓存之间的降级、升级操作,进一步减小了各级缓存之间的带宽消耗;本发明的空间消耗非常小,为各种负载下系统更好的读写性能打下了基础。

    一种提高单写性能的三盘容错编码和解码方法

    公开(公告)号:CN104932836A

    公开(公告)日:2015-09-23

    申请号:CN201510298870.6

    申请日:2015-05-31

    Abstract: 本发明提供了一种提高单写性能的三盘容错编码和解码方法,本发明编码方法使用原始数据和校验公式生成三种冗余校验元素,分别为行校验、斜校验和反向斜校验元素,使得编码后的磁盘上存在着四种类型的元素:数据元素,行校验元素,斜校验元素,反向斜校验元素,本发明的解码方法是指当磁盘阵列中出现任意三块磁盘同时失效时,可以通过恢复算法和冗余校验元素,将失效磁盘上的数据进行解码恢复,解码方法基于前者的编码结构来实施,本发明能够在保证数据可靠性的基础上,克服现有编码在单写性能上的不足,是一种新型MDS三盘容错编码和解码方法,可以恢复存储系统中任意三块失效磁盘上的数据,在保证数据可靠性的同时,显著提升存储系统的单写性能。

    基于校验矩阵的纠删码解码方法

    公开(公告)号:CN104850468A

    公开(公告)日:2015-08-19

    申请号:CN201510290040.9

    申请日:2015-05-31

    Abstract: 本发明提供了一种基于校验矩阵的纠删码解码方法,本发明适用于任意基于异或操作的纠删码,本发明通过对校验矩阵进行解码,从而对解码效率带来非常大的提升。另外,通过构造稀疏校验矩阵的迭代算法,能进一步提升本发明的解码效率。相比于传统的两种实现方法,本发明同时具有通用性和高效性。

Patent Agency Ranking