-
公开(公告)号:CN115794368A
公开(公告)日:2023-03-14
申请号:CN202111165165.0
申请日:2021-09-30
Applicant: 华为技术有限公司
Abstract: 本申请提供一种业务系统、内存管理方法及装置,涉及计算机领域。本申请一方面能够均衡业务系统中各业务节点的内存负载,另一方面可以避免内存性能和成本上的损耗,提高内存资源的使用性能。该业务系统,包括多个业务节点;多个业务节点中至少一个业务节点的内存被划分为本地资源和全局资源;其中,本地资源用于为本地业务节点提供内存存储空间;至少一个业务节点中的所述全局资源构成内存池,内存池用于为多个业务节点提供内存存储空间;当一定条件满足时,本地资源中的至少一部分空间会被转入所述内存池;或者内存池中的至少一部分空间会被转入所述本地资源。
-
公开(公告)号:CN115242251A
公开(公告)日:2022-10-25
申请号:CN202110441839.9
申请日:2021-04-23
Applicant: 华为技术有限公司
IPC: H03M7/30
Abstract: 一种数据处理方法、装置及设备。本申请中,服务器获取压缩数据,压缩数据包括压缩规则区域和对象数据区域,压缩规则区域用于记录多个对象中各个字段的压缩规则,对象数据区域包括每个对象压缩后的数据,对象压缩后的数据包括对象中各个字段压缩后的数据,多个对象包括目标对象。服务器根据各个字段的压缩规则,对对象数据区域中目标对象压缩后的数据进行解压,获取目标对象。压缩对象时以字段为粒度进行压缩,压缩数据中以对象为粒度记录对象压缩后的数据,每个对象压缩后的数据之间无直接关联。服务器对压缩数据进行解压时,从压缩数据定位目标对象压缩后数据的位置后解压,获取目标对象,不需要对整个压缩数据进行解压,实现了数据的随机解压。
-
公开(公告)号:CN114625713A
公开(公告)日:2022-06-14
申请号:CN202110245752.4
申请日:2021-03-05
Applicant: 华为技术有限公司
IPC: G06F16/18 , G06F16/185 , G06F16/22
Abstract: 本申请提供了一种存储系统中元数据管理方法、装置及存储系统,该方法由存储系统中的一个或多个处理器执行,该方法包括以下步骤:在存储系统的第一存储层存储不可修改写的第一元数据文件,在第二存储层存储可修改写的第二元数据文件,第一存储层基于日志结构树管理第一元数据文件,第二存储层基于非日志结构树管理第二元数据文件。使用该元数据管理方法,可将顺序写请求的元数据直接写入第二存储层,消除存储层合并带来的系统开销,解决在大容量场景下存储系统合并任务耗时久、资源消耗大的问题。
-
公开(公告)号:CN109165117B
公开(公告)日:2022-05-31
申请号:CN201810700362.X
申请日:2018-06-29
Applicant: 华为技术有限公司
IPC: G06F11/14
Abstract: 本发明提供一种数据处理的方法,应用该方法的存储系统包括主节点、备节点和存储池。该方法包括:该备节点接收该主节点拷贝的元数据。主节点发生故障后,该备节点接收数据恢复指令,确定该主节点中的元数据未全部被拷贝至该备节点。该备节点从该存储池中获取第一元数据的第一元数据日志,该第一元数据未从该主节点同步至该备节点,根据该第一元数据日志恢复该第一元数据,将该第一元数据存储至该存储池。主节点发生故障时,不需要从存储池中恢复所有未存储的元数据,缩短了元数据恢复的时间,使得业务切换至备节点的过程更加平滑,减少了数据切换对用户读写的影响。
-
公开(公告)号:CN114077378A
公开(公告)日:2022-02-22
申请号:CN202010812177.7
申请日:2020-08-13
Applicant: 华为技术有限公司
IPC: G06F3/06 , G06F16/22 , G06F16/242 , G06F16/2453 , G06Q10/04
Abstract: 本申请提供了一种构建索引方法及装置,包括:存储设备将存储有第一关键字以及该第一关键字对应的第一值的第一物理块与第二逻辑段关联,该第一关键字与该第一关键字在第一物理块中的第一存储位置满足第一逻辑段对应的第一位置预测模型;对于与第一物理块相邻的第二物理块,存储设备判断该其存储的第二关键字以及该第二关键字在第二物理块中的第二存储位置是否满足第一位置预测模型,该第二物理块中还存储有第二关键字对应的第二值。当不满足时,存储设备可以将该第二物理块与第二逻辑段关联,该第二关键字以及第二存储位置满足第二逻辑段对应的第二位置预测模型。如此,可以构建出用于快速查找数据的索引,并且,所需访问的物理块的次数较少。
-
公开(公告)号:CN113805789A
公开(公告)日:2021-12-17
申请号:CN202010739813.8
申请日:2020-07-28
Applicant: 华为技术有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种存储设备中的元数据处理方法及相关设备,属于计算机技术领域。所述方法包括:存储设备中的网卡接收IO请求,该IO请求包括读数据请求或写数据请求;网卡执行IO请求所对应的元数据处理任务;在网卡确定元数据处理任务执行失败的情况下,网卡请求存储设备中的CPU执行元数据处理任务。由此可知,本申请提供了一种网卡和CPU自适应动态执行元数据处理任务的方法。如此,便可自适应地从CPU中卸载部分的元数据处理任务给网卡,不仅可以减轻CPU的数据处理压力,还可以避免由于网卡处理元数据带来的时延过长,从而提高存储设备读写数据的效率。
-
公开(公告)号:CN113625938A
公开(公告)日:2021-11-09
申请号:CN202010615013.5
申请日:2020-06-30
Applicant: 华为技术有限公司
IPC: G06F3/06 , G06F16/13 , G06F16/182
Abstract: 本申请实施例公开了一种元数据存储方法,本方法可以用于存储系统中。本申请实施例方法包括:第一元数据存储单元和第二元数据存储单元,其中第一元数据存储单元的尺寸大于第二元数据存储单元的尺寸,当目标数据的尺寸达到设定阈值时,按照第一元数据存储单元存储目标数据的元数据,或者,当目标数据的尺寸小于设定阈值时,按照第二元数据存储单元存储目标数据的元数据。本申请实施例可以减少存储数据时对应的元数据,节省了存储资源。
-
公开(公告)号:CN118427221A
公开(公告)日:2024-08-02
申请号:CN202310145290.8
申请日:2023-01-31
Applicant: 华为技术有限公司
IPC: G06F16/2455 , G06F16/2458 , G06F16/27 , G06F11/14
Abstract: 本申请公开了一种数据库任务处理方法及装置、数据库系统及容灾系统,属于数据库技术领域。计算系统接收针对目标数据库的部署模式选择指令,该部署模式选择指令用于指示目标数据库在存储系统中采用行列混存的部署模式或行列分离的部署模式。计算系统根据该部署模式选择指令确定目标数据库对应的执行计划,该执行计划与该部署模式选择指令所指示的部署模式相匹配。计算系统根据该执行计划在存储系统中处理针对目标数据库的数据库任务。本申请提供的数据库系统,可供用户灵活选择采用行列混存的部署模式或行列分离的部署模式来部署数据库,使得部署的数据库既能支持HTAP系统的运行,又提高了数据库系统的部署灵活性和应用灵活性。
-
公开(公告)号:CN117992467A
公开(公告)日:2024-05-07
申请号:CN202211608424.7
申请日:2022-12-14
Applicant: 华为技术有限公司
Abstract: 提供一种数据处理系统,该数据处理系统包括计算集群、存储集群,其中,计算集群包括主计算节点、从计算节点,存储集群包括至少一个存储节点;主计算节点,用于响应于数据更新请求生成binlog(二进制日志),并将binlog发送至存储集群中进行存储;从计算节点,用于读取该存储集群中存储的binlog,并通过回放binlog来更新存储集群中持久化存储的数据。如此,主计算节点与从计算节点之间通过存储集群传输binlog,能够避免从计算节点未获取到binlog,从而从计算节点通过回放所能获取到的binlog,实现主计算节点与从计算节点之间的数据同步,或者在主计算节点故障时实现数据恢复。这样,数据处理系统的RPO能够实现为0,并能够提高数据处理系统的可靠性。
-
公开(公告)号:CN115827688A
公开(公告)日:2023-03-21
申请号:CN202111088376.9
申请日:2021-09-16
Applicant: 华为技术有限公司
IPC: G06F16/2455 , G06F16/23 , G06F3/06
Abstract: 本申请提供一种数据访问方法及装置,涉及数据存储领域,用于降低访问错误的可能性、降低访问时延。该方法包括:获取第一读请求。该第一读请求用于读取第一用户数据。确定第一用户数据对应的第一访问参数。第一访问参数用于指示第一访问参数对应的一个或多个用户数据在缓存中的元数据是否可用。根据第一访问参数,从缓存中或者从缓存外的其他存储位置中,获取第一用户数据对应的元数据。利用第一用户数据对应的元数据,读取第一用户数据。
-
-
-
-
-
-
-
-
-