-
公开(公告)号:CN103077222A
公开(公告)日:2013-05-01
申请号:CN201210591061.0
申请日:2012-12-31
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: G06F17/30
Abstract: 本发明提供一种结合本地日志的机群文件系统分布式元数据操作一致性保证方法。其中,协调者和参与者将为分布式元数据子操作生成的分布式元数据子操作更新记录作为一个本地事务记录在本地日志中,所述分布式元数据子操作更新记录包括分布式事务和/或分布式元数据更新,在本地事务提交之后,所述分布式事务被写入到分布式日志中,所述分布式元数据更新被写入到元数据磁盘。该方法还包括在开始分布式元数据子操作之前对本地日志事务进行强制提交的步骤。该方法有效地复用了本地日志,降低了分布式日志的实现复杂度,此外,还能够避免出现级联撤销。
-
公开(公告)号:CN102790797A
公开(公告)日:2012-11-21
申请号:CN201210160339.9
申请日:2012-05-22
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
Abstract: 本发明公开一种机群文件系统客户端存储资源延迟分配方法和系统,该方法包括:步骤1,客户端根据文件布局操作情况,进行存储资源延迟分配;步骤2,在文件删除时对存储资源回收,处理客户端延迟分配的存储资源回收;步骤3,对存储资源在客户端与元数据服务器之间的一致性进行维护。
-
公开(公告)号:CN102075581A
公开(公告)日:2011-05-25
申请号:CN201110027458.2
申请日:2011-01-25
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: H04L29/08
Abstract: 本发明提供一种面向分布式文件系统的数据传输方法,包括下列步骤:1)客户端获取当前所要访问文件的元数据信息;所述元数据信息包括文件尺寸;2)根据是否超过文件尺寸阈值来选择当前所要访问文件的访问方式,所述访问方式在带内数据访问方式和带外数据访问方式中选择;3)客户端根据所选择的访问方式请求从文件元数据服务层或存储设备层获取文件数据。本发明还提供了相应的面向分布式文件系统的数据传输装置。与现有技术相比,本发明可以使分布式系统依据应用访问负载自适应地选择适合于被访问文件的数据访问方式,同时满足大文件和小文件访问的性能要求。并且,本发明中数据访问方式的切换对应用程序是透明的,无需对用户应用程序做任何修改。
-
公开(公告)号:CN1642169A
公开(公告)日:2005-07-20
申请号:CN200410000826.4
申请日:2004-01-17
Applicant: 中国科学院计算技术研究所
IPC: H04L29/06
Abstract: 一种基于网络存储和资源虚拟化的大型服务系统的管理系统及其方法包括用户虚拟化管理服务模块,系统虚拟化管理服务模块和原子部件,所述原子部件包括物理计算节点和物理存储设备节点;所述系统虚拟化管理服务模块用于实现系统虚拟化服务和管理封装,对所述原子部件进行资源虚拟化,为上一级系统虚拟化管理服务模块和所述用户虚拟化管理服务模块提供公共接口;所述系统虚拟化管理服务模块向上级系统虚拟化管理服务模块和用户虚拟化管理服务模块提供虚拟资源。本发明以存储管理为基础,采取层次结构,将服务器及各种典型服务系统的管理,及用户自定义系统的管理有效集成,使管理系统的研发更为简单易行,并有很强的可扩展性,总体提高了系统的性能。
-
公开(公告)号:CN106681848B
公开(公告)日:2019-10-18
申请号:CN201611147298.4
申请日:2016-12-13
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出一种纠删码RAID的数据一致性保障方法及系统,涉及计算机存储领域,该方法包括步骤1,当有新数据写入时,修改版本设备中各设备的数据映射表,并生成事务日志表,所述版本设备中各设备进行异步下刷操作,完成后,清除所述事务日志表,其中所述版本设备由新数据卷与旧数据卷构成;步骤2,将所述新数据及与其相对应的新校验信息经所述版本设备转发并写入新数据卷,当所述新数据与所述新校验信息都完整写入后,再触发所述步骤1,将所述新数据与所述新校验信息写入所述旧数据卷。本发明高效的保证纠删码RAID系统数据的一致性。
-
公开(公告)号:CN110187830A
公开(公告)日:2019-08-30
申请号:CN201910325384.7
申请日:2019-04-22
Applicant: 中国科学院计算技术研究所
IPC: G06F3/06
Abstract: 本发明提出了一种加速磁盘阵列重建的方法及系统,包括:在缓存中建立磁盘阵列的有效数据位图,有效数据位图用于记录磁盘阵列逻辑地址空间中存有数据的数据块的有效位图信息;接收写请求,得到写请求中待写入数据所属的条带,并根据条带所在数据块的位图信息更新有效数据位图;根据磁盘阵列当前的数据冗余方式,将待写入数据下发至磁盘阵列的底层磁盘;当磁盘阵列中出现失效的成员磁盘时,通过有效数据位图读取失效的成员磁盘中存有数据的数据块的待恢复位图信息,并得到待恢复位图信息对应的待恢复条带,根据数据冗余方式恢复重建待恢复条带。本发明能减少RAID系统重建过程需恢复的数据量,从而降低RAID重建过程耗时,进一步提升了系统的可靠性。
-
公开(公告)号:CN104503706B
公开(公告)日:2017-10-10
申请号:CN201410810681.8
申请日:2014-12-23
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
Abstract: 本发明提供一种基于磁盘阵列的数据存储方法,其中每个条带包括空子条带和纠删码子条带;存储方法包括下列步骤:1)确定需要写入数据的条带并将其作为当前条带;2)当需要写入的数据是全条带数据时,将所述全条带数据写入当前条带的空子条带,写入完毕后将该空子条带转换为纠删码子条带;3)在新的纠删码子条带生效后,将当前条带的原有纠删码子条带转换为空子条带。所述条带还可以进一步包括镜像子条带。另外,本发明还提供了相应的基于磁盘阵列的数据读取方法。本发明能够解决纠删码技术中的WriteHole问题;能够提高基于纠删码的存储系统的I/O性能;无论在写入数据块较多还是较少时均能达到较高的性能。
-
公开(公告)号:CN103902660B
公开(公告)日:2017-04-12
申请号:CN201410076739.0
申请日:2014-03-04
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
Abstract: 本发明公开了一种机群文件系统中通过readdir++预取文件布局的系统及其方法,该系统包括:客户端模块(1),用于从服务器模块(2)获取或归还读目录授权;当获得该读目录授权后,向该服务器模块(2)发送读目录请求;将该服务器模块(2)发送的含有文件布局的页面存储于本地缓存中,该客户端模块(1)读取该目录下的文件时,直接使用本地缓存中存储的该文件布局;该服务器模块(2),用于向该客户端模块(1)授予或召回该读目录授权;当接收到该读目录请求时,还将包括文件布局在内的元数据信息封装在页面中,将该页面发送给该客户端模块(1)。由此,能减少读取文件时获取文件布局的网络交互开销,可大幅提升海量小文件的读取访问性能。
-
公开(公告)号:CN103761256B
公开(公告)日:2017-04-12
申请号:CN201310743906.8
申请日:2013-12-30
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
Abstract: 本发明公开了一种远程目录分支点维护系统,包括:元数据服务器集群和客户端,元数据服务器集群进一步包括:主元数据服务器和多个远程元数据服务器,其中,主元数据服务器用于将所有新建的目录的索引节点inode记录在父目录中,并且在索引节点inode中嵌入远程元数据服务器的位置信息,对远程元数据服务器的位置信息进行记录和维护,远程元数据服务器用于创建远程子目录,以实现远程子目录的元数据访问,客户端用于根据维护的元数据服务器集群的定位信息,确定目标元数据服务器,建立与目标元数据服务器的连接,并对目标元数据服务器发送访问请求。本发明还公开了一种远程目录分支点维护方法。
-
公开(公告)号:CN106227464A
公开(公告)日:2016-12-14
申请号:CN201610557291.3
申请日:2016-07-14
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
CPC classification number: G06F3/0614 , G06F3/064 , G06F3/0647 , G06F3/067 , G06F11/1662
Abstract: 本发明公开了一种双层冗余存储系统及其数据写入、读取及恢复方法,该双层冗余存储系统包括冗余组,该冗余组包括至少两个数据节点、主校验节点和从校验节点,每个数据节点包括第一缓存、第一存储单元及第二存储单元,主校验节点包括第二缓存、第一RAID6处理单元及主校验存储单元,从校验节点包括第三缓存、第二RAID6处理单元及从校验存储单元,该写入方法包括:该冗余组接收来自一客户端的写请求数据,该数据节点、该主、从校验节点分别对该写请求数据进行缓存;该主校验节点对其缓存的写请求数据进行RAID6计算以获得第一校验数据与第二校验数据,该数据节点对该写请求数据进行存储;该主、从校验节点分别对其缓存的数据进行删除。
-
-
-
-
-
-
-
-
-