一种基于条带的一致性哈希存储系统构建方法

    公开(公告)号:CN110046160B

    公开(公告)日:2021-07-20

    申请号:CN201910195853.8

    申请日:2019-03-15

    Abstract: 本发明提供的一种基于条带的一致性哈希存储系统构建方法及相应的数据放置机制和节点变化方法,以条带为单位组织数据块,以节点组为单位组织存储节点,将条带放置到节点组上。节点在组织成节点组时,每一个节点组内相同节点的数目不大于条带内检验块个数,从而保证数据块的放置满足纠删码的MDS性质,保证数据存储的可靠性。同时,本发明采用一致性哈希算法,选取差异度最低的节点组进行节点组间的替换,通过一致性哈希算法,只有部分虚节点上数据的放置位置发生变化,通过选取差异度最低的节点组作为替换节点组,只有变化节点位置上的节点不同,其他对应位置上的节点均相同,此时迁移的数据量最小。

    基于副本数据日志的纠删码更新方法及系统

    公开(公告)号:CN110262922B

    公开(公告)日:2021-02-09

    申请号:CN201910403522.9

    申请日:2019-05-15

    Abstract: 本发明涉及一种基于副本数据日志的纠删码更新方法,包括:接收更新数据,并将其保存至数据端的副本数据日志;当该副本数据日志满时,以该更新数据和该数据块获得校验差值,以该校验差值更新对应的数据块,并将该校验差值转发至存储校验块的校验端;将该校验差值保存至该校验端的校验日志,当该校验日志满时,通过该校验差值生成校验数据,以该校验数据更新校验块。本发明提出的纠删码更新方法,在保证一致性的前提下,减少更新过程中产生的计算开销、网络开销和磁盘寻道开销,提高了纠删码的更新效率,在一些应用场景相对其他更新方法,达到1个数量级的性能提升。

    一种DNA活字印刷机、基于DNA的数据存储设备和方法

    公开(公告)号:CN111680797A

    公开(公告)日:2020-09-18

    申请号:CN202010381206.9

    申请日:2020-05-08

    Abstract: 本发明实施例提供了一种DNA活字印刷机、基于DNA的数据存储设备和方法,所述DNA活字印刷机包括:PCR反应区,用于通过PCR反应将获取的多种DNA活字序列按序连接为表示二进制信息的DNA序列,其中,每种DNA活字序列是根据预定的映射规则预先合成的单链DNA片段,所述预定的映射规则用于定义特定的多位二进制码与特定的碱基序列之间的映射关系,每个单链DNA片段中包含与某个特定的多位二进制码对应的碱基序列;PCR产物纯化区,用于对经过PCR反应的产物进行纯化;机械臂;以及机械臂控制模块,用于控制所述机械臂以获取所述DNA活字序列,以及控制所述机械臂作为PCR反应区的产物和PCR产物纯化区的产物的转移工具,本发明能够提供高效和高性价比的DNA存储。

    一种针对基因数据的取样字典树索引的压缩方法和系统

    公开(公告)号:CN109450452B

    公开(公告)日:2020-07-10

    申请号:CN201811427459.4

    申请日:2018-11-27

    Abstract: 本发明涉及一种针对基因数据的取样字典树索引的压缩方法和系统,包括:用户上传待压缩的基因数据,该基因数据包括:标识、序列和质量分值;提取该序列中预设长度的子串到字典树索引结构中进行查找,若该字典树索引结构中具有该子串,则将该子串压缩为该子串在该字典树索引结构中的位置、长度,作为该子串的索引值,否则将该子串加入该字典树索引结构,记录该子串在该字典树索引结构中的位置、长度作为该子串的索引值。本发明提高了序列的压缩效果,并使用取样索引和根据质量分值高低决定是否加入到索引结构的策略来降低字典树的内存占用空间。

    一种基于十字交叉纠删编码的快速数据恢复方法及系统

    公开(公告)号:CN106844098B

    公开(公告)日:2020-04-03

    申请号:CN201611248332.7

    申请日:2016-12-29

    Abstract: 本发明提出一种基于十字交叉纠删编码的快速数据恢复方法及系统,该方法包括数据写入时,按照LRC编码方式进行计算,将全局编码块两两分组,将每个分组内的全局编码块分成两部分,将全局编码块的后半部分与另一块全局编码块的前半部分异或后,写入当前全局编码块的后半部分中,当第一个全局编码块丢失时,读取数据块的后半部分,获得丢失数据块的未做异或前的两个后半部分,另一块全局编码块的后半部分异或操作前跟后做异或操作得到丢失数据块的前半部分,丢失数据块的异或前数据与另一块全局编码块的前半部分做异或操作得到丢失数据块的后半部分;数据按照条带方式刷回到对应的磁盘中进行存储,当数据写入存储服务器后,进行异步纵向编码计算。

    一种面向分布式去重系统的数据路由方法

    公开(公告)号:CN103631933B

    公开(公告)日:2017-04-12

    申请号:CN201310655727.9

    申请日:2013-12-06

    Abstract: 本发明提供一种面向分布式去重系统的数据路由方法,包括:服务器将构成数据的所有数据块的指纹进行分类,并且将不同类别的指纹分别发送到存储相应类别指纹的数据摘要的不同摘要存储节点。以及,在所述摘要存储节点中查询接收到的指纹,得到该指纹在每个去重节点的命中分数,将该命中分数返回所述服务器。方法还包括所述服务器根据每个指纹在每个去重节点的命中分数得到每个去重节点的汇总分数,将该汇总分数结合每个去重节点的存储状况确定目标去重节点。本发明在实现去重效果与存储利用率的平衡的同时,有效抑制了指纹查询过程中通信和计算开销,提高了分布式去重系统的数据路由的可扩展性。

    双层元数据处理系统及方法

    公开(公告)号:CN101247417B

    公开(公告)日:2011-07-27

    申请号:CN200810101521.0

    申请日:2008-03-07

    Inventor: 邢晶 唐荣锋 熊劲

    Abstract: 本发明涉及计算机存储系统体系结构领域,公开了一种双层元数据处理系统及方法。在本发明中,通过在元数据服务器中设置元数据处理服务器模块和元数据对象存储服务器模块,将对元数据进行的读取和修改操作请求进行了合理的分流,使得不同类型的元数据操作请求在不同的层次上进行处理,从而能够针对元数据操作请求的类型进行优化,同时,在处理读取元数据的操作请求时,可以根据请求创建多个元数据复本,以平衡对读取元数据操作的访问负载。

    分布式文件系统中的元数据快照存储和访问方法

    公开(公告)号:CN104933133A

    公开(公告)日:2015-09-23

    申请号:CN201510325206.6

    申请日:2015-06-12

    CPC classification number: G06F17/30088 G06F17/301 G06F17/30194

    Abstract: 本发明提供一种文件系统快照存储方法,文件系统包括具有快照标记的目录树,与该目录树相对应的快照统计文件,以及与该目录树的各个快照时间戳相对应的快照文件;所述快照存储方法包括:1)创建新快照后,使得所述快照统计文件记录下按照快照时间戳顺序排列的各个快照文件的索引;2)维护各个快照文件,使得每个所述快照文件中记录起始有效时间小于等于其时间戳,且大于前一快照时间戳的所有元数据,并且同一所述快照文件中所记录的元数据按照其结束有效时间排序。本发明还提供了相应的文件系统快照访问方法。与传统的增量快照技术相比,本发明在保留存储空间开销较小优势的前提下,显著减小了快照访问的开销,提高了快照访问的效率。

Patent Agency Ranking