面向分布式文件系统的RDMA通信地址交换方法

    公开(公告)号:CN112565326B

    公开(公告)日:2023-10-17

    申请号:CN201910918615.5

    申请日:2019-09-26

    Abstract: 本发明公开了一种面向分布式文件系统的RDMA通信地址交换方法,包括分布式文件系统的RDMA数据发送阶段和RDMA数据接收阶段,包括以下步骤:与远端建立连接时预交换若干个RDMA地址;根据文件操作的类型,将文件操作数据封装到本地的RDMA注册地址,生成RDMA消息;所述文件操作的类型包括打开操作open、关闭操作close、查找操作lookup、书写操作write和读取操作read;根据目前的远端RDMA地址使用情况为本次文件操作分配远端的RDMA地址;若RDMA空闲地址小于目前RDMA地址的一半,在生成的文件操作RDMA消息附带发送RDMA地址紧张报警信息让远端申请8个RDMA地址。本发明不会引发内存浪费、降低通信效率、消耗额外系统资源,减少了多余RDMA地址交换操作,提升了RDMA通信的整体效率。

    一种面向IO转发系统的IO处理框架及IO请求处理方法

    公开(公告)号:CN114217733A

    公开(公告)日:2022-03-22

    申请号:CN202110479680.X

    申请日:2021-04-30

    Abstract: 本发明公开一种面向IO转发系统的IO处理框架,包括以下作业粒度的IO调度单元,用于在IO转发节点上,根据作业的job ID将所有的IO请求进行分类;文件粒度的IO调度单元,用于将来自同一作业的IO请求按照文件进行分配,并以文件为单位进行调度;IO操作级别的IO调度单元,用于在IO请求调度过程中分析来自同一个文件的多个IO请求之间的依赖关系,并根据这些依赖关系,实现合并写IO请求和优化预读;还包括一动态资源调度单元,用于根据各个IO调度单元对IO请求的执行情况。本发明解决了高性能计算转发架构下的IO转发服务器的IO调度问题。

    以目录单位的多级存储构建与在线迁移方法

    公开(公告)号:CN112540954A

    公开(公告)日:2021-03-23

    申请号:CN201910897716.9

    申请日:2019-09-23

    Abstract: 本发明公开了一种以目录单位的多级存储构建与在线迁移方法,包括以下步骤:作业对存储进行读写IO操作请求;Transparent模块接收来自数据库的存储文件状态信息,此存储文件状态信息包括文件的位置、文件的读写状态、文件的迁移状态、文件的访问时间;以及发布待加速的目录;根据文件状态判断IO操作请求的文件数据对象是否在加速目录表中,去全局文件系统中读写文件数据对象;如果是,判断文件数据对象是否在透明缓存中,去透明缓存中读写文件数据对象;如果不是,去全局文件系统中读写文件数据对象,执行下一步;如果是读写存储于透明缓存的文件数据对象,读写后,进一步执行以下步骤。本发明满足高IO的性能要求,支持数据的在线迁移,以便于为用户提供更好的存储体验。

    一种分布式存储系统数据管理方法

    公开(公告)号:CN114217734B

    公开(公告)日:2023-10-27

    申请号:CN202110480186.5

    申请日:2021-04-30

    Abstract: 本发明公开一种分布式存储系统数据管理方法,包括及时任务模式、定时任务模式和策略模式,所述策略模式下的数据管理方法包括以下步骤:S31、发起数据管理请求;S32、接收到数据管理请求;S33、将数据管理请求分发到组成存储系统的每一个服务器上;S34、每台服务器将数据管理请求记录到待执行队列中;S35、服务器上设置定时的状态收集信息库,根据状态信息库提供的状态信息,执行具体操作;S36、如果在最大时限内没有满足条件的时刻,那么在最大时限到达后,根据数据管理请求执行操作;S37、等待所有服务器执行完成。本发明可以降低在线业务与数据管理之间的冲突,保证在线业务的时效性,同时保证数据管理的可靠性。

    面向分布式文件系统的RDMA通信地址交换方法

    公开(公告)号:CN112565326A

    公开(公告)日:2021-03-26

    申请号:CN201910918615.5

    申请日:2019-09-26

    Abstract: 本发明公开了一种面向分布式文件系统的RDMA通信地址交换方法,包括分布式文件系统的RDMA数据发送阶段和RDMA数据接收阶段,包括以下步骤:与远端建立连接时预交换若干个RDMA地址;根据文件操作的类型,将文件操作数据封装到本地的RDMA注册地址,生成RDMA消息;所述文件操作的类型包括打开操作open、关闭操作close、查找操作lookup、书写操作write和读取操作read;根据目前的远端RDMA地址使用情况为本次文件操作分配远端的RDMA地址;若RDMA空闲地址小于目前RDMA地址的一半,在生成的文件操作RDMA消息附带发送RDMA地址紧张报警信息让远端申请8个RDMA地址。本发明不会引发内存浪费、降低通信效率、消耗额外系统资源,减少了多余RDMA地址交换操作,提升了RDMA通信的整体效率。

    一种分布式存储系统的内存池管理方法

    公开(公告)号:CN114244857A

    公开(公告)日:2022-03-25

    申请号:CN202110387038.9

    申请日:2021-04-12

    Abstract: 本发明公开一种分布式存储系统的内存池管理方法,包括以下步骤:S1、分布式存储系统初始化开始,打开网卡设备;S2、分配内存,注册分布式存储系统内存池,记录内存池的首地址和内存大小;S3、将分布式存储系统内存池的首地址作为输入参数,注册网卡内存池,并将网卡内存池按分布式存储系统数据块大小组织并记录偏移,返回网卡句柄号;S4、分布式存储系统初始化结束。本发明可以在读写数据场景下分别消除分布式存储内存池到网卡内存池和网卡内存池到分布式存储内存池的内存拷贝,进一步降低上下文切换等开销,提升分布式存储系统的数据传输性能。

    面向超大规模系统的多文件系统元数据统一缓存管理方法

    公开(公告)号:CN112445768A

    公开(公告)日:2021-03-05

    申请号:CN201910794731.0

    申请日:2019-08-27

    Abstract: 本发明公开一种面向超大规模系统的多文件系统元数据统一缓存管理方法,基于以下模块:若干个分布式文件系统,分别配置于分布式文件系统环境中IO节点上的驻留收集模块,用于监测文件系统元数据信息的变化,并将获取的元数据信息传输至后台数据库;后台数据库,用于接收和存储来自驻留收集模块的元数据信息;配置于管理节点上的总控处理模块,用于查询后台数据库,获取元数据的信息,并通过元数据信息的变更来检索和查找、定位的文件数据;本发明可以针对不同分布式文件系统来实现元数据的收集与管理,更方便的通过元数据的信息来有效地监控文件系统的运行状况。

    针对共享存储阵列性能均衡性问题的测试方法

    公开(公告)号:CN112445660A

    公开(公告)日:2021-03-05

    申请号:CN201910801001.9

    申请日:2019-08-28

    Abstract: 本发明公开一种针对共享存储阵列性能均衡性问题的测试方法,基于以下模块:控制模块,用于配置均衡性测试端、均衡性测试分区、均衡性测试目录,还用于生成并发送均衡性测试场景命令、均衡性测试命令,还用于收集与汇总均衡性测试结果;测试模块,用于接收管理端的命令并执行,如生成均衡性测试场景,进行指定线程数、指定文件大小、指定块大小、指定顺序写/读、指定随机写/读的均衡性测试,记录并返回均衡性测试结果至控制模块。本发明既可准确测试判断存储设备在面向多个服务器时是否存在性能均衡性问题,也可以判断单一服务器上多个不同的LUN之间是否存在性能均衡性问题。

    一种面向IO转发系统的IO处理框架及IO请求处理方法

    公开(公告)号:CN114217733B

    公开(公告)日:2023-10-13

    申请号:CN202110479680.X

    申请日:2021-04-30

    Abstract: 本发明公开一种面向IO转发系统的IO处理框架,包括以下作业粒度的IO调度单元,用于在IO转发节点上,根据作业的job ID将所有的IO请求进行分类;文件粒度的IO调度单元,用于将来自同一作业的IO请求按照文件进行分配,并以文件为单位进行调度;IO操作级别的IO调度单元,用于在IO请求调度过程中分析来自同一个文件的多个IO请求之间的依赖关系,并根据这些依赖关系,实现合并写IO请求和优化预读;还包括一动态资源调度单元,用于根据各个IO调度单元对IO请求的执行情况。本发明解决了高性能计算转发架构下的IO转发服务器的IO调度问题。

    以目录单位的多级存储构建与在线迁移方法

    公开(公告)号:CN112540954B

    公开(公告)日:2022-07-12

    申请号:CN201910897716.9

    申请日:2019-09-23

    Abstract: 本发明公开了一种以目录单位的多级存储构建与在线迁移方法,包括以下步骤:作业对存储进行读写IO操作请求;Transparent模块接收来自数据库的存储文件状态信息,此存储文件状态信息包括文件的位置、文件的读写状态、文件的迁移状态、文件的访问时间;以及发布待加速的目录;根据文件状态判断IO操作请求的文件数据对象是否在加速目录表中,去全局文件系统中读写文件数据对象;如果是,判断文件数据对象是否在透明缓存中,去透明缓存中读写文件数据对象;如果不是,去全局文件系统中读写文件数据对象,执行下一步;如果是读写存储于透明缓存的文件数据对象,读写后,进一步执行以下步骤。本发明满足高IO的性能要求,支持数据的在线迁移,以便于为用户提供更好的存储体验。

Patent Agency Ranking