数据修复方法及数据修复装置

    公开(公告)号:CN107463462A

    公开(公告)日:2017-12-12

    申请号:CN201610399396.0

    申请日:2016-06-06

    Inventor: 胡燏翀

    CPC classification number: G06F11/1402 G06F11/085

    Abstract: 本发明提供一种数据修复方法,其包括:获取数据修复指令,并根据数据修复指令在本地机架中创建用于修复丢失数据片段的本地新节点;根据数据修复指令,在本地机架的其他节点的编码数据片段中收集本地修复数据;根据数据修复指令,在中继机架中确定数据中继节点,并通过数据中继节点在相应的中继机架的节点的编码数据片段中收集中继修复数据;根据本地修复数据以及中继修复数据,在本地新节点对丢失数据片段进行修复操作。本发明还提供一种数据修复装置,本发明的数据修复方法及数据修复装置对机架内数据修复和跨机架数据修复进行结合,提高了数据修复操作的传输效率。

    一种对象存储系统中基于RAID5的安全认证方法

    公开(公告)号:CN105404560A

    公开(公告)日:2016-03-16

    申请号:CN201510744366.4

    申请日:2015-11-05

    CPC classification number: G06F11/1076 H04L63/0428 H04L63/0823

    Abstract: 本发明公开了一种对象存储系统中基于RAID5的安全认证方法。该方法包括:利用RAID5安全可靠低成本的特性,在对象存储系统的关键路径TA上设置N台TA服务器,然后将N台TA服务器上的存储资源整合,并在其上部署RAID5。当客户端发来认证请求时,TA Controller首先对认证请求赋予ID,并对ID进行取模运算,选择一台目标TA服务器对Client端认证请求进行处理,将认证请求处理结果返回到TA Controller中。TA Controller将处理结果存入RAID5中,按照RAID5的存取机制进行数据存取。冗余TA服务器可以有效地防止单点故障,同时,RAID5又可保证数据丢失时的快速恢复,保证TA端用户数据的安全性和服务的可靠性。本发明能大幅度地提高TA端数据的安全可靠性。

    基于混合编码的二进制大对象存储修复方法和装置

    公开(公告)号:CN119759906A

    公开(公告)日:2025-04-04

    申请号:CN202411872072.5

    申请日:2024-12-18

    Abstract: 本申请属于计算机存储技术领域,具体公开了一种基于混合编码的二进制大对象存储修复方法和装置,该方法包括:获取多个二进制大对象Blob,并对多个Blob中的小型Blob进行非系统性最小存储再生MSR编码,对多个Blob中的大型Blob进行系统性MSR编码;将编码后的多个Blob均衡存储在多个存储节点中;基于待修复Blob的类型,确定对应的修复策略,并基于修复策略以及所述多个存储节点中的编码后的多个Blob,使用分组并行修复技术对待修复Blob进行修复。该方法可以提升Blob修复效率。

    面向高性能数据并行DNN训练的稀疏化压缩方法及装置

    公开(公告)号:CN119005265A

    公开(公告)日:2024-11-22

    申请号:CN202411182560.3

    申请日:2024-08-27

    Abstract: 本申请属于计算机存储领域,具体公开了一种面向高性能数据并行DNN训练的稀疏化压缩方法及装置,该方法包括:获取在数据并行DNN训练系统中反向传播生成的多维度梯度张量;基于多维度梯度张量的输入维度信息和输出维度信息构建矩阵,获得多维度梯度张量矩阵;使用第一稀疏化压缩方案和第二稀疏化压缩方案对多维度梯度张量矩阵进行压缩;第一稀疏化压缩方案包括:对多维度梯度张量中的每个维度内的元素进行局部排序;在每个维度中选择k/M个最大的元素并保留,同时将其余元素置零,其中k为梯度元素个数,M为维度数量;第二稀疏化压缩方案包括:在多维度梯度张量的所有元素中选择绝对值最大的k个元素并保留,同时将其余元素置零。

    数据处理方法、系统、存储集群、设备及可读存储介质

    公开(公告)号:CN118466859B

    公开(公告)日:2024-10-11

    申请号:CN202410924980.8

    申请日:2024-07-11

    Abstract: 本发明公开了一种数据处理方法、系统、存储集群、设备及可读存储介质,涉及存储领域,为解决采用多层耦合码修复速度慢的问题,该数据处理方法包括通过多层耦合码将原始数据划分为若干个数据块和校验块,并将各个数据块和各个校验块均划分为若干个子块后进行编码,得到每一子块的原始编码;获取格雷码序列,按格雷码序列及原始编码调整各个子块的排列顺序,按照调整后的排列顺序将各个子块写入对应的存储节点;当满足单块数据修复条件时,通过多层耦合码确定故障块,从存储节点中读取故障块对应的待访问子块,通过待访问子块对故障块进行数据修复。本发明能够将对子块大量的随机访问转换为少量的顺序访问,从而减少修复访问数量,提高修复效率。

    一种节点修复方法、装置、设备及可读存储介质

    公开(公告)号:CN114143174B

    公开(公告)日:2024-08-16

    申请号:CN202111447401.8

    申请日:2021-11-30

    Abstract: 本发明公开了一种节点修复方法、装置、设备及可读存储介质,该方法应用于修复请求节点,包括:获取多个条带节点中每个条带节点对应的预期下载时间和预期上传时间;根据预期下载时间和预期上传时间,从多个条带节点中确定修复节点;将待分配条带修复任务分配到修复节点;本发明将条带修复作为基本单位,基于贪心算法比较条带在每一个条带节点上修复时的网络传输时间,从而能够选择网络传输时间最小的那个条带节点作为该条带的修复节点,使得多个条带能够均衡的分配在不同条带节点上修复,保证各个条带节点带宽使用是相对均衡的,降低了节点修复过程中的网络传输时间,提高了节点修复性能,提升了用户体验。

    一种基于纠删码部分更新的推测性缓存方法和系统

    公开(公告)号:CN117632025A

    公开(公告)日:2024-03-01

    申请号:CN202311634000.2

    申请日:2023-11-29

    Inventor: 胡燏翀 冯丹 周海

    Abstract: 本发明公开了一种基于纠删码部分更新的推测性缓存方法和系统,属于计算机存储领域。本发明在一段时间内从更新请求流中感知数据块的更新位置,并推测地从磁盘中缓存旧数据,具体为:利用更新局部性,当局部性超过固定阈值时缓存整个旧块;否则,它会缓存旧块一部分。它缓存具有高局部性的整个旧数据块,以减少磁盘搜索。对于对同一个数据块的一系列更新请求,本发明只执行一个磁盘搜索。否则,它会缓存旧的部分数据,以迁移磁盘读取和内存开销。该方法能够在有效降低磁盘内存开销的同时,有效平衡磁盘I/O,提高更新性能。

    一种节点修复方法、装置、设备及可读存储介质

    公开(公告)号:CN114143174A

    公开(公告)日:2022-03-04

    申请号:CN202111447401.8

    申请日:2021-11-30

    Abstract: 本发明公开了一种节点修复方法、装置、设备及可读存储介质,该方法应用于修复请求节点,包括:获取多个条带节点中每个条带节点对应的预期下载时间和预期上传时间;根据预期下载时间和预期上传时间,从多个条带节点中确定修复节点;将待分配条带修复任务分配到修复节点;本发明将条带修复作为基本单位,基于贪心算法比较条带在每一个条带节点上修复时的网络传输时间,从而能够选择网络传输时间最小的那个条带节点作为该条带的修复节点,使得多个条带能够均衡的分配在不同条带节点上修复,保证各个条带节点带宽使用是相对均衡的,降低了节点修复过程中的网络传输时间,提高了节点修复性能,提升了用户体验。

    数据条带编码方法、系统、设备及介质

    公开(公告)号:CN114138543A

    公开(公告)日:2022-03-04

    申请号:CN202111447413.0

    申请日:2021-11-30

    Abstract: 本申请公开了一种数据条带编码方法、系统、设备及介质,获取待编码的第一条带数据及第二条带数据;生成第一条带数据及第二条带数据各自的运算值,运算值的数量与冗余校验块的数量相等;基于第二条带数据的运算值、第一条带数据的运算值生成异或值;基于运算值及异或值确定第一条带数据及第二条带数据各自的校验块。本申请中,在进行Hitchhiker纠删码的过程中,需计算第二条带数据的运算值与第一条带数据的第一运算值间的异或值,并且根据该异或值确定相应的校验块,借助异或值降低了Hitchhiker纠删码的计算开销,提高了计算速度。本申请提供的数据条带编码系统、设备及计算机可读存储介质也解决了相应技术问题。

    一种基于纠删码的异构网络单节点修复方法及系统

    公开(公告)号:CN113721851A

    公开(公告)日:2021-11-30

    申请号:CN202110990143.1

    申请日:2021-08-26

    Inventor: 冯丹 胡燏翀 周海

    Abstract: 本发明提供了一种基于纠删码的异构网络单节点修复方法及系统,属于计算机存储领域,方法为:获取当前网络带宽状态,包括各个节点之间的带宽;为每个失效节点选择对应的新生节点requestor以存储修复数据,并从所有幸存节点中为每个失效节点选择k个helper节点;其中,k为原始数据块;枚举每个时间戳所有可能的修复方法,选择最大的最低链路带宽所对应的修复方法,以生成源条带单级转发链路;其链路的两个节点为失效节点对应的不同helper节点;将源条带单级转发链路插入纠删码集群中完成对失效节点的修复。本发明充分利用节点之间的高带宽资源,能够避免网络的拥塞与竞争,提升修复性能与系统的可靠性。

Patent Agency Ranking