-
公开(公告)号:CN105095197B
公开(公告)日:2018-05-18
申请号:CN201410152632.X
申请日:2014-04-16
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F17/30
Abstract: 本发明实施例提供了一种处理数据的方法及装置,涉及通信领域,用以延长PCM的使用寿命。所述方法包括:处理设备接收数据操作请求消息;根据操作请求消息确定处理结点;根据操作请求消息,在处理结点中插入数据或删除数据,并更新数据管理信息;获取处理结点的统计值;当处理结点的统计值包括:统计次数时,更新统计次数;确定更新后的统计次数是否等于统计阈值;在更新后的统计次数等于统计阈值的情况下,从处理结点的可选数据位中确定出待移动数据位,并将统计次数清零;将处理结点的数据管理信息移动至待移动数据位,并将待移动数据位的位置记录于处理结点的固定数据位。本发明实施例适用于将B树存储于PCM中的场景。
-
公开(公告)号:CN103780692B
公开(公告)日:2017-01-11
申请号:CN201410027157.3
申请日:2014-01-13
Applicant: 中国科学院计算技术研究所
Abstract: 本发明公开了一种键值存储的数据访问方法及其系统,该方法根据跳表中每个数据节点的数据访问频率,动态调整每个数据节点高度,以实现高频数据的快速访问,该方法包括:访问频度设置步骤和数据节点高度调整步骤,访问频度设置步骤用于跳表中的每个节点动态设置一个访问频度,数据节点高度调整步骤用于通过动态设置的访问频度调整每个节点高度,实现访问频率高的数据增加节点高度,访问频率低的数据降低节点高度。
-
公开(公告)号:CN105138622A
公开(公告)日:2015-12-09
申请号:CN201510501523.9
申请日:2015-08-14
Applicant: 中国科学院计算技术研究所
IPC: G06F17/30
CPC classification number: G06F17/30324
Abstract: 本发明提供一种用于LSM树存储系统的插入操作方法,包括:1)将待插入值和待插入键构建为键-值结构体并将该新构建的键-值结构体作为待插入键的最新数据分段存储到数据库中;对于该新构建的键-值结构体,保存待插入键之前已经累积的数据分段的总数据量,保存待插入键的前一数据分段的存储位置;2)更新插入表的待插入键的表项;所述插入表记录每个键的所有数据分段的总数据量和最新数据分段的存储位置。本发明还提供了相应的插入操作负载的读取方法和合并方法。本发明能够避免插入操作因读/写放大问题所导致的系统开销增加;能够在数据由低层向高层移动的过程中将插入操作负载聚合;能够提高插入操作负载的读性能。
-
公开(公告)号:CN105095197A
公开(公告)日:2015-11-25
申请号:CN201410152632.X
申请日:2014-04-16
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F17/30
Abstract: 本发明实施例提供了一种处理数据的方法及装置,涉及通信领域,用以延长PCM的使用寿命。所述方法包括:处理设备接收数据操作请求消息;根据操作请求消息确定处理结点;根据操作请求消息,在处理结点中插入数据或删除数据,并更新数据管理信息;获取处理结点的统计值;当处理结点的统计值包括:统计次数时,更新统计次数;确定更新后的统计次数是否等于统计阈值;在更新后的统计次数等于统计阈值的情况下,从处理结点的可选数据位中确定出待移动数据位,并将统计次数清零;将处理结点的数据管理信息移动至待移动数据位,并将待移动数据位的位置记录于处理结点的固定数据位。本发明实施例适用于将B树存储于PCM中的场景。
-
公开(公告)号:CN104426965A
公开(公告)日:2015-03-18
申请号:CN201310388769.0
申请日:2013-08-30
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: H04L29/08
CPC classification number: G06F12/00
Abstract: 本发明实施例提供一种自管理存储方法和系统,该包括:接收用户发送的第一逻辑地址分配请求;其中,所述分配请求中携带第一逻辑地址类型参数;根据所述第一逻辑地址类型参数进行查询,获取满足所述第一逻辑地址类型参数的所述第一逻辑地址;发送所述第一逻辑地址给所述用户。本发明实施例提供的方法,解决了现有技术无法根据用户的存储需求为用户提供相应的存储资源的技术问题。
-
公开(公告)号:CN104298681A
公开(公告)日:2015-01-21
申请号:CN201310302791.9
申请日:2013-07-18
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F17/30
CPC classification number: G06F17/30138 , G06F17/30312
Abstract: 本发明实施例公开了一种数据存储方法及装置。本发明实施例方法包括:按照数据的更新频率,将所述数据进行类型划分,将存储空间划分为多个类型的簇,多个类型的簇划分为至少与所述数据的类型数量相同数量的类型,根据预置存储对应关系,将同类型的数据分别存储到同类型的簇中,在每个簇中,每更新一次数据都会使得原数据成为垃圾数据,在数据的更新频率快的簇中,在较短的时间形成大块的垃圾数据的几率较高,而相对的有效数据所占的比例较少,所以系统回收垃圾数据时,读、写的有效数据量较少,同时存储空间中形成大块空闲空间的几率较高,进而能够降低垃圾回收的开销,也能够提高形成大块空闲空间的几率。
-
公开(公告)号:CN103902632A
公开(公告)日:2014-07-02
申请号:CN201210590105.8
申请日:2012-12-31
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
CPC classification number: G06F17/30914 , G06F17/30067 , G06F17/30091 , G06F17/30233 , G06F17/30094
Abstract: 本发明涉及数据存储领域,特别是涉及一种键值存储系统中构建文件系统的方法、装置及电子设备。在本发明所公开的键值存储系统中构建文件系统的方法,首先获取各级目录的目录路径对应的目录编号,再根据所述目录编号以及各级目录下所存储的文件,构建目录和文件相应的关键字Key,这种情况下,由于所述关键字Key中的目录编号所占的空间较小,且各个目录编号为唯一的,不存在重复的现象,有效节省了存储空间;另外,根据所述目录编号构建了与所述目录相对应的目录关键字Key,在需要对目录进行操作时,可直接根据目录的关键字Key获取待操作的目录,操作过程得到简化。
-
公开(公告)号:CN105447059B
公开(公告)日:2019-10-01
申请号:CN201410515092.7
申请日:2014-09-29
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
Abstract: 本发明实施例公开了一种数据处理方法及装置,用于对热数据进行热度统计,并根据热度统计的接管对数据进行重分布。本发明实施例方法包括:在与所述LSM Tree的第一目标层对应的存储空间中确定待合并的第一数据,所述第一数据的键key值为第一key值;在与所述LSM Tree的第二目标层对应的存储空间中确定key值为所述第一key值的第二数据;确定所述第一数据为最近接收的热数据;从所述第二目标层对应的存储空间中删除所述第二数据;将所述第一数据从所述第一目标层对应的存储空间迁移到所述第二目标层对应的存储空间中;将所述第一数据重新写入所述存储系统的内存空间。
-
公开(公告)号:CN105138622B
公开(公告)日:2018-05-22
申请号:CN201510501523.9
申请日:2015-08-14
Applicant: 中国科学院计算技术研究所
IPC: G06F17/30
Abstract: 本发明提供一种用于LSM树存储系统的插入操作方法,包括:1)将待插入值和待插入键构建为键‑值结构体并将该新构建的键‑值结构体作为待插入键的最新数据分段存储到数据库中;对于该新构建的键‑值结构体,保存待插入键之前已经累积的数据分段的总数据量,保存待插入键的前一数据分段的存储位置;2)更新插入表的待插入键的表项;所述插入表记录每个键的所有数据分段的总数据量和最新数据分段的存储位置。本发明还提供了相应的插入操作负载的读取方法和合并方法。本发明能够避免插入操作因读/写放大问题所导致的系统开销增加;能够在数据由低层向高层移动的过程中将插入操作负载聚合;能够提高插入操作负载的读性能。
-
公开(公告)号:CN104915145B
公开(公告)日:2018-05-18
申请号:CN201410086913.X
申请日:2014-03-11
Applicant: 华为技术有限公司 , 中国科学院计算技术研究所
IPC: G06F3/06
Abstract: 本发明公开了一种降低LSM Tree写放大的方法和装置,涉及数据处理领域,用于解决由于受到内存大小限制,而使得Multi BF的数量有限,无法将热度评分的阈值设置为更高的数值,导致无法筛选更高更新频度的数据,影响了存储设备的使用性能的问题。本发明提供的方法具体包括:通过在有数据写入时,查询所写入的数据的key是否存在于热度表中,当查询结果为否时,将该数据直接写进持久化设备,否则,则将该key的counter加1,并判断该key的counter是否达到热度阈值,当判断结果为是时,将该key对应的数据写入PRAM设备中进行原地更新,否则将该数据直接写入持久化设备中。本发明实施例主要用于数据处理过程中。
-
-
-
-
-
-
-
-
-