-
公开(公告)号:CN119149288A
公开(公告)日:2024-12-17
申请号:CN202411155733.2
申请日:2024-08-22
Applicant: 厦门大学
Abstract: 本发明公开了一种用于分布式纠删码重删系统的路由方法、装置及可读介质,用于解决纠删码重删系统中出现的部分数据块可靠性不足以及系统性能下降的问题,方法包括:调整重删和纠删码编码的顺序,保障文件每一个数据块都能参与纠删码编码,为文件每一个数据块提供相同的可靠性保障;结合布谷鸟哈希算法,使用局部重删技术替代全局重删,提高系统读写性能;设计去中心化的结构,避免单个节点失效带来的集群失效问题,并进一步提高系统在高负载情况下的性能表现。本发明在为系统提供高可靠性保障的同时,提高了系统的读写性能,在高负载情况下,性能提升更为显著。
-
公开(公告)号:CN118093592A
公开(公告)日:2024-05-28
申请号:CN202410291717.X
申请日:2024-03-14
Applicant: 厦门大学
IPC: G06F16/22 , G06F16/27 , G06F16/2455
Abstract: 本发明一种针对分布式对象存储系统的元数据索引存储方法及装置,方法包括:主节点存储步骤,接收来自元数据服务器发送的元数据索引信息,转换成键值对结构;进行去重和映射存储后交付给一致性协议Raft中的领导者;调用数据库的接口对转换成键值对结构的元数据索引信息进行存储;基于Raft的一致性协议,领导者将转换成键值对结构的元数据索引信息同步到存储系统集群中的从节点;从节点存储步骤,接收主节点发送的同步信息,将转换成键值对结构的元数据索引信息写入到数据库中进行存储。本发明引入的一致性协议Raft降低了空间占用,同时通过复合键的范围树结构解决了读写放大的问题,最终提高了元数据的索引效率。
-
公开(公告)号:CN116931841A
公开(公告)日:2023-10-24
申请号:CN202311023889.0
申请日:2023-08-15
Applicant: 厦门大学
Abstract: RESET感知的非易失性内存写干扰缓解机制,涉及非易失性内存可靠性领域。该机制由三个部分组成:掩码字动态选择技术、粒度自适应算法、掩码字编码技术。在NVM内存控制器中设计一套编码算法,自适应地选择编码粒度并动态选择编码所需的掩码字,以缓解写干扰问题。自适应编码粒度的选择能够使编码适应不同的数据模式,并避免对无修改的数据的编码,使得编码方案能够在更少的空间占用下达到更好的效果;动态掩码字的选择算法基于RESET数目的数量,进行掩码字的选择,无需对所有掩码字依次编码便可获取RESET操作数目最少所对应的掩码字,减少写干扰错误的同时降低对系统性能和写耐久性的影响。
-
公开(公告)号:CN115221076A
公开(公告)日:2022-10-21
申请号:CN202210878453.9
申请日:2022-07-25
Applicant: 厦门大学
IPC: G06F12/0868 , G06F12/0884
Abstract: 基于持久性CPU高速缓存的高性能键值存储方法及系统,涉及键值存储技术领域。在持久化CPU高速缓存的最下层缓存上建立可根据写入负载,弹性调整内存表数量的内存表池,以降低系统资源竞争;延迟内存表索引结构的更新操作,由后台线程异步批量更新,以降低系统写关键路径上的软件开销;以内存表为单位的数据写回机制,将内存表从CPU高速缓存写回持久性内存,以提高持久性内存设备的写入效率;写回持久性内存的多个内存表可能存在老旧或无效数据,影响搜索性能,内存表索引合并机制将多个内存表的索引结构合并,消除无效索引节点,提高系统搜索效率。
-
公开(公告)号:CN113157715B
公开(公告)日:2022-06-07
申请号:CN202110517789.8
申请日:2021-05-12
Applicant: 厦门大学
Abstract: 纠删码数据中心机架协同更新方法,涉及集群存储系统。包括以下步骤:1)数据编码和分发存储阶段:选择满足系统容错能力和编码效率的纠删码,将原始数据划分为固定大小的数据块,对数据块进行编码生成对应校验块,将生成的数据块和校验块按照约束条件分发到不同的节点中进行存储;2)增量收集阶段:根据条带的更新情况以及校验块的布局,选择适合的机架作为收集机架,并将数据增量发送给收集机架;3)选择校验更新阶段:系统根据收集机架内数据增量的数量和校验机架内校验块的数量选择基于数据增量的更新或基于校验增量的更新。在保证系统可靠性的同时,最小化跨机架更新流量,从而减少对跨机架带宽的占用,更快地完成更新过程。
-
公开(公告)号:CN112181288B
公开(公告)日:2022-03-04
申请号:CN202010825520.1
申请日:2020-08-17
Applicant: 厦门大学
IPC: G06F3/06
Abstract: 一种非易失性存储介质的数据处理方法和计算机存储介质,初始化步骤完成后,根据用户的指令进行并发的数据插入、数据查询、数据删除和数据更新步骤,并发的顺利执行由自旋锁来保证。数据插入和数据删除步骤中如果需要改变哈希表大小,则触发调整哈希表大小步骤,当哈希表大小调整完后,继续执行数据插入和数据删除步骤。当用户发出结束访问指令时,进入结束步骤。本发明减少对哈希表的级联写入并有效地解决哈希冲突,同时减少调整哈希表大小操作时需要移动的数据,减少频繁写入时调整哈希表大小操作执行的次数,进而提高非易失性存储介质的寿命,保证数据一致性的同时提高哈希索引结构在非易失性存储介质上的性能。
-
公开(公告)号:CN112181288A
公开(公告)日:2021-01-05
申请号:CN202010825520.1
申请日:2020-08-17
Applicant: 厦门大学
IPC: G06F3/06
Abstract: 一种非易失性存储介质的数据处理方法和计算机存储介质,初始化步骤完成后,根据用户的指令进行并发的数据插入、数据查询、数据删除和数据更新步骤,并发的顺利执行由自旋锁来保证。数据插入和数据删除步骤中如果需要改变哈希表大小,则触发调整哈希表大小步骤,当哈希表大小调整完后,继续执行数据插入和数据删除步骤。当用户发出结束访问指令时,进入结束步骤。本发明减少对哈希表的级联写入并有效地解决哈希冲突,同时减少调整哈希表大小操作时需要移动的数据,减少频繁写入时调整哈希表大小操作执行的次数,进而提高非易失性存储介质的寿命,保证数据一致性的同时提高哈希索引结构在非易失性存储介质上的性能。
-
公开(公告)号:CN114237970B
公开(公告)日:2025-05-16
申请号:CN202111459202.9
申请日:2021-12-02
Applicant: 深圳前海微众银行股份有限公司 , 厦门大学
Abstract: 本发明公开了一种扩展纠删码存储系统的方法及装置,该方法为:确定存储系统中的数据,对数据进行编码,并将数据分散存储在各个节点,获得各个节点的空间位置分布信息;基于扩展需求信息,确定每个条带上新增的节点个数,并基于新增的节点个数和空间位置分布信息,确定每个条带上的扩展节点信息;其中,条带包括具有编码关系的数据块和校验块;基于扩展节点信息和最小公倍数规则,确定扩展组,并对扩展组进行拆分处理,获得包括多个被选择的条带的目标组;对目标组执行扩展算法,获得对应的目标扩展组,目标扩展组包括扩展数据块和扩展校验块。基于上述方法,可提高纠删码存储系统的扩展效率。
-
公开(公告)号:CN114840448B
公开(公告)日:2024-06-04
申请号:CN202210524346.6
申请日:2022-05-13
Applicant: 厦门大学
Abstract: 利用通道间并行加速3D闪存垃圾回收的方法,涉及固态硬盘存储技术领域。包括:1)垃圾回收重定向调度:包括计算通道服务率、计算重定向流量、计算垃圾回收造成的读性能损失、跨通道初始分配重定向流量、跨通道初始分配重定向流量;2)基于热度感知的页面分配:包括页面访问热度划分、通道服务率排序、基于热度的跨通道页面分配。解决单通道上长垃圾回收延迟造成严重I/O阻塞问题。重定向调度,从整体上缓解垃圾回收造成的请求阻塞状况,从而提升闪存整体性能。重定向页面热度,依据各通道的读负载状况分配不同热度的重定向页面,实现各通道负载均衡,最大化通道资源利用率。
-
公开(公告)号:CN118035237A
公开(公告)日:2024-05-14
申请号:CN202410166966.6
申请日:2024-02-06
Applicant: 厦门大学
IPC: G06F16/22 , G06F16/2455
Abstract: 本发明公开了一种基于动态区间扩展的基数估计方法、装置及可读介质,包括:构建由m个z位计数器组成的计数器数组;在更新过程中,获取数据包,计算数据包的哈希值并统计其哈希值的前导0的数量,当数据包的哈希值的前导0的数量大于变量阈值r,则确定数据包为被抽样到的数据包,在计数器数组中确定被抽样到的数据包所对应的计数器,当其值为0,则将计数器的值不为0的个数n的值加1;更新被抽样到的数据包所对应的计数器的值,当个数n的值大于或等于固定阈值v,则执行下一轮操作,将变量阈值r加1,根据每一个计数器的值判断其是否减1;根据m、n、r的值查询当前记录到的基数的估计值,能够提高在各种计数范围内的准确性。
-
-
-
-
-
-
-
-
-