-
公开(公告)号:CN106293543B
公开(公告)日:2019-03-12
申请号:CN201610726634.4
申请日:2016-08-25
Applicant: 中国科学院计算技术研究所
IPC: G06F3/06
Abstract: 本发明提出一种基于捎带回收的瓦记录RAID写顺序化方法及装置,计算机存储领域,该装置包括结构管理模块,用于将带通过循环日志的结构进行管理;高速持久缓存模块,用于接收所有非顺序写请求,当高速持久缓存被写到水位时触发下刷,其中将带划分为数据带与校验带,下刷以组为单位进行,组之间的写入未产生写覆盖,组内非整条带的写过程触发小写过程,同时在小写读时做捎带回收操作。本发明中当所有小写读都完成后再开始小写写,在带内小写读的过程中捎带做回收读,在小写写过程中将回收读出的有效数据和要下刷的有效数据合并为大块的顺序写,避免带内小写产生的RMW过程,并提升系统的整体性能。
-
公开(公告)号:CN105843560B
公开(公告)日:2018-08-10
申请号:CN201610218815.6
申请日:2016-04-08
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: G06F3/06
Abstract: 本发明提出一种维护主从式双控软Raid6一致性的方法及系统,该方法包括主控制器节点中Raid6设备获取数据更新请求,主控制器节点中Raid6设备计算数据更新请求对应的数据更新位置,并在内存中记录位图更新状态A,并固化在主控制器节点的Raid6校验设备中,Raid6设备计算校验值,并对数据小盘Data Disk与校验小盘Parity Disk下发更新请求,写入快照源,作为新数据,当所有Data Disk与Parity Disk更新完成,在内存中记录位图更新状态B,固化在主控制器节点的校验设备中;并同步到从控制器节点中Raid6设备,并固化在从控制器节点的校验设备中;主控制器节点中Raid6设备在内存中找到位图更新状态为B的数据更新位置,通过对Data Disk与Parity Disk的发送Remap指令,将新数据重映射到快照设备Data Snapshot与Parity Snapshot。
-
公开(公告)号:CN105740334A
公开(公告)日:2016-07-06
申请号:CN201610045909.8
申请日:2016-01-22
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: G06F17/30
CPC classification number: G06F16/134 , G06F16/13 , G06F16/16
Abstract: 本发明提出一种文件系统中异步批量创建文件的系统及方法,该系统包括文件异步创建模块,用于接收文件创建请求,在父目录下创建所述文件的内存目录项,并标记为“未同步到磁盘”状态,为所述文件分配内存索引节点,并设置所述索引节点的索引节点号为伪索引节点号;文件创建批量回刷模块,用于扫描目录项缓存,获取所述内存目录项,及与所述伪索引节点号相对应的内存索引节点,选取在相同父目录下的多个被标记为“未同步到磁盘”状态的内存目录项,为每个所述文件分配真正索引节点号替换所述伪索引节点号,并为还未分配数据块资源状态的缓存页批量分配数据块资源,将分配的数据块资源记录到文件布局中,并将所述文件的所述内存目录项插入到所述父目录中。
-
公开(公告)号:CN103077222B
公开(公告)日:2016-01-27
申请号:CN201210591061.0
申请日:2012-12-31
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: G06F17/30
Abstract: 本发明提供一种结合本地日志的机群文件系统分布式元数据操作一致性保证方法。其中,协调者和参与者将为分布式元数据子操作生成的分布式元数据子操作更新记录作为一个本地事务记录在本地日志中,所述分布式元数据子操作更新记录包括分布式事务和/或分布式元数据更新,在本地事务提交之后,所述分布式事务被写入到分布式日志中,所述分布式元数据更新被写入到元数据磁盘。该方法还包括在开始分布式元数据子操作之前对本地日志事务进行强制提交的步骤。该方法有效地复用了本地日志,降低了分布式日志的实现复杂度,此外,还能够避免出现级联撤销。
-
公开(公告)号:CN104991739A
公开(公告)日:2015-10-21
申请号:CN201510346978.8
申请日:2015-06-19
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
Abstract: 本发明涉及元数据服务器失效接替技术及非幂元数据等操作等领域,特别涉及元数据服务器失效接替中精确一次执行语义的方法及系统,包括:在客户端正常访问元数据服务器时,所述元数据服务器在会话session结构中为每个操作分配slotID、sequenceID以及存放响应结果的缓存空间,并将所述session结构持久写入到元数据磁盘上,并将所述slotID和所述sequenceID复制给备份服务器,所述备份服务器收到后,将所述slotID和所述sequenceID放入所述备份服务器缓存中;所述元数据服务器宕机之后,所述备份服务器从磁盘中读取所述session结构的信息,查找已经持久到磁盘上但并未给客户端发送回复结果的非幂等操作,根据所述session结构中的slot table重新构造所述回复结果并发送给客户端。
-
公开(公告)号:CN103096126B
公开(公告)日:2015-09-30
申请号:CN201210587473.7
申请日:2012-12-28
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: H04N21/218 , H04N21/222 , H04N21/232
Abstract: 本发明协作式缓存集群中面向视频点播服务的协作式缓存方法和系统。其中,将每个视频文件的数据分片与缓存节点的索引号相关联,将每个数据分片缓存在与其关联的缓存节点上。收到访问数据分片的请求时将其定向到与要访问的数据分配关联的缓存节点,并且可以指示其他缓存节点预取下一个数据分片。该方法使得每个视频文件只放置一份数据,提高了缓存的空间利用率和读取命中率,同时避免了单台服务器出现热点,增强了缓存系统整体的扩展性。此外,通过协作式数据预取技术,避免了在仅进行简单数据分片情况下可能影响视频点播服务质量的播放抖动问题,不影响视频点播的服务质量。
-
公开(公告)号:CN102750322B
公开(公告)日:2014-11-05
申请号:CN201210159873.8
申请日:2012-05-22
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: G06F17/30
Abstract: 本发明公开一种机群文件系统分布式元数据一致性保证方法和系统,所述方法包括:步骤1,协调者对第一个子操作的可执行性进行预先检查,协调者向参与者发送请求信息,由参与者执行第二个子操作,参与者执行完毕之后,返回执行之后的信息给协调者,协调者和参与者写入日志文件;步骤2,根据协调者和参与者日志文件的Commit日志记录组合,对于机群文件系统一致性进行恢复。
-
公开(公告)号:CN103916465A
公开(公告)日:2014-07-09
申请号:CN201410108037.6
申请日:2014-03-21
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
Abstract: 本发明公开了一种基于分布式文件系统的数据预读装置,该数据预读装置包括:客户端模块、元数据服务器模块和数据存储模块;客户端模块通过访问元数据服务器模块获取目录读取扩展授权和小文件布局,根据小文件布局将小文件数据和与该小文件数据空间连续的大粒度数据同时从数据存储模块中预读到客户端模块的缓存中。本发明还公开了一种基于分布式文件系统的数据预读方法。
-
公开(公告)号:CN103096126A
公开(公告)日:2013-05-08
申请号:CN201210587473.7
申请日:2012-12-28
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: H04N21/218 , H04N21/222 , H04N21/232
Abstract: 本发明协作式缓存集群中面向视频点播服务的协作式缓存方法和系统。其中,将每个视频文件的数据分片与缓存节点的索引号相关联,将每个数据分片缓存在与其关联的缓存节点上。收到访问数据分片的请求时将其定向到与要访问的数据分配关联的缓存节点,并且可以指示其他缓存节点预取下一个数据分片。该方法使得每个视频文件只放置一份数据,提高了缓存的空间利用率和读取命中率,同时避免了单台服务器出现热点,增强了缓存系统整体的扩展性。此外,通过协作式数据预取技术,避免了在仅进行简单数据分片情况下可能影响视频点播服务质量的播放抖动问题,不影响视频点播的服务质量。
-
公开(公告)号:CN102158546B
公开(公告)日:2013-05-08
申请号:CN201110047626.4
申请日:2011-02-28
Applicant: 中国科学院计算技术研究所 , 天津中科蓝鲸信息技术有限公司
IPC: H04L29/08
Abstract: 本发明提供一种集群文件系统,其特征在于,包括:目录服务器,用于存储目录元数据并提供目录服务;布局服务器机群,用于存储布局元数据并提供布局服务;以及存储设备阵列,用于存储文件内容数据。本发明还提供了相应的文件服务方法。所述文件服务方法包括文件访问步骤:客户端首先访问目录服务器获取文件的目录信息;然后访问布局服务器获取文件数据在物理存储设备上的分布信息;最后直接访问物理存储设备获取数据信息。与现有技术相比,本发明能够进一步提高文件集群系统的扩展能力;本发明兼容性强且访问延时小。
-
-
-
-
-
-
-
-
-