一种数据迁移方法及统一协调系统

    公开(公告)号:CN115460230B

    公开(公告)日:2025-05-16

    申请号:CN202211084130.9

    申请日:2022-09-06

    Abstract: 本申请实施例公开了一种数据迁移方法及统一协调系统,该数据迁移方法中,建立哈希桶作为理论存储位置,以及存储实际桶作为实际存储位置,通过配置哈希桶和存储实际桶的映射关系,以及存储实际桶和集群的映射关系,在数据迁移时,只需确定目标哈希桶中第一待迁移数据,不需要针对每个数据都通过哈希算法计算,而且直接通过上述两个映射关系能够实现第一待迁移数据的跨集群迁移,实现了跨集群的高效数据迁移。

    一种旁路式的数据处理方法及装置

    公开(公告)号:CN115113826A

    公开(公告)日:2022-09-27

    申请号:CN202210900871.3

    申请日:2022-07-28

    Abstract: 本申请提供了一种旁路式的数据处理方法及装置,包括:获取数据操作指令对应的目标数据,所述数据操作指令包括:数据插入指令、数据修改指令或数据删除指令;响应于所述数据操作指令,根据所述目标数据的生存时间TTL和预设的文件信息表对所述目标数据进行处理。本申请通过文件数据的生存时间TTL和预设的文件信息表以旁路的方式实现数据处理,避免数据的无效占用,提高存储资源利用率以及数据处理的效率。

    一种对象存储跨集群海量数据迁移方法及系统

    公开(公告)号:CN113312147A

    公开(公告)日:2021-08-27

    申请号:CN202110654199.X

    申请日:2021-06-11

    Abstract: 本发明公开一种对象存储跨集群海量数据迁移方法及系统,方法包括:步S1,接收用户发出的迁移任务请求和建立的子任务;步S2,根据建立子任务的相关信息,生成迁移任务的对应配置文件,并将建立的子任务和迁移任务的对应配置文件相关信息以OSS对象存储至后端数据库的任务队列中;步S3,按预定时长扫描后端数据库中已存储的任务队列,将处于正在等待状态和暂停状态的迁移任务调度起并执行;步S4,被调起的迁移任务以Docker容器、K8S的job、进程中的任一种方式运行;步S5,根据迁移任务的类型启动对应类型的迁移插件进行迁移操作;步S6,所调用的对应迁移插件采用多级任务的方式完成数据迁移。该方法能实现弹性的跨集群的海量数据的迁移。

    一种虚拟网络数据处理系统、方法、设备及介质

    公开(公告)号:CN116170252A

    公开(公告)日:2023-05-26

    申请号:CN202310109610.4

    申请日:2023-01-31

    Abstract: 本申请公开了一种虚拟网络数据处理系统、方法、设备及介质,所述系统包括:中心云以及至少一个边缘云;其中,所述中心云中至少包括中心控制器以及虚拟交换机,所述边缘云中至少包括边缘控制器以及虚拟交换机;所述虚拟交换机,用于管理所述中心云或所述边缘云中的物理机、容器以及虚拟机在二层东西向进行数据交换通信;所述边缘控制器,用于基于隧道封装技术管理所述边缘云中的物理机、容器以及虚拟机与所述中心云中的物理机、容器以及虚拟机在三层南北向进行数据转发;所述中心控制器,用于管理调度位于所述中心云中的虚拟交换机以及各所述边缘控制器以实现虚拟网络控制面进行跨数据中心的统一调度管理。

    一种数据库场景中优化分布式存储延迟的方法

    公开(公告)号:CN113296711A

    公开(公告)日:2021-08-24

    申请号:CN202110653004.X

    申请日:2021-06-11

    Abstract: 本发明公开了一种数据库场景中优化分布式存储延迟的方法,包括:步骤1,在容器连接主存储的IO链路上设置持久化缓存层;步骤2,容器中应用程序IO先持久化到持久化缓存层中;步骤3,持久化缓存层中的IO到达阈值或超时后,进行IO合并后刷入主存储中。通过在容器连接主存储的IO链路上设置持久化缓存层,容器中应用程序IO将优先持久化到持久化缓存层中,能有效减少IO的延迟,过滤IO尖峰;同时,IO在持久化后并未通过网络,减弱受网络稳定性因素的影响,通过将分布在持久化缓存层中的IO在到达阈值或超时后,再进行IO合并刷入后端的主存储中,提高了IO合并效率。该方法能降低分布式存储的延迟,提升分布式存储的性能。

    一种千亿级别的对象存储桶的扩容方法

    公开(公告)号:CN112860186A

    公开(公告)日:2021-05-28

    申请号:CN202110162888.9

    申请日:2021-02-05

    Abstract: 本发明公开了一种千亿级别的对象存储桶的扩容方法,包括:构建包含虚拟映射层、元数据中心、入口组件、以及运维组件的统一管理平台;通过统一管理平台统一管理多个异构对象存储的控制面和数据面,实现扩容期间的平滑切换。具体的该扩容方法:1)没有单集群单桶的规模风险,天生可以水平扩容;扩容期间业务无感知,热切换配置直接生效;2)没有单集群单桶的性能瓶颈,通过接入多个异构对象存储集群和虚拟映射方法,保证对象存储服务的性能可靠性;3)没有单集群单桶的性能瓶颈,通过接入多个异构对象存储集群和虚拟映射方法,保证对象存储服务的性能可靠性。

    一种云主机批量启动方法、装置、设备及存储介质

    公开(公告)号:CN115640063A

    公开(公告)日:2023-01-24

    申请号:CN202211095171.8

    申请日:2022-09-05

    Abstract: 本发明提供一种云主机批量启动方法、装置、设备及存储介质,客户端响应于云主机批量启动请求,从第一存储装置获取读请求处理结果,从第二存储装置获取写请求处理结果,第一存储装置的数据处理速度高于第二存储装置的数据处理速度;客户端基于读请求处理结果以及写请求处理结果,批量启动云主机。可见,上述方法通过高处理性能的存储装置进行读请求的处理,不再通过低处理性能的存储装置处理全部的读请求和写请求,提高云主机批量启动过程中读写请求的处理效率,从而降低云主机批量启动所消耗的时间。

    一种对象存储跨集群海量数据迁移方法及系统

    公开(公告)号:CN113312147B

    公开(公告)日:2022-12-30

    申请号:CN202110654199.X

    申请日:2021-06-11

    Abstract: 本发明公开一种对象存储跨集群海量数据迁移方法及系统,方法包括:步S1,接收用户发出的迁移任务请求和建立的子任务;步S2,根据建立子任务的相关信息,生成迁移任务的对应配置文件,并将建立的子任务和迁移任务的对应配置文件相关信息以OSS对象存储至后端数据库的任务队列中;步S3,按预定时长扫描后端数据库中已存储的任务队列,将处于正在等待状态和暂停状态的迁移任务调度起并执行;步S4,被调起的迁移任务以Docker容器、K8S的job、进程中的任一种方式运行;步S5,根据迁移任务的类型启动对应类型的迁移插件进行迁移操作;步S6,所调用的对应迁移插件采用多级任务的方式完成数据迁移。该方法能实现弹性的跨集群的海量数据的迁移。

    一种数据迁移方法及统一协调系统

    公开(公告)号:CN115460230A

    公开(公告)日:2022-12-09

    申请号:CN202211084130.9

    申请日:2022-09-06

    Abstract: 本申请实施例公开了一种数据迁移方法及统一协调系统,该数据迁移方法中,建立哈希桶作为理论存储位置,以及存储实际桶作为实际存储位置,通过配置哈希桶和存储实际桶的映射关系,以及存储实际桶和集群的映射关系,在数据迁移时,只需确定目标哈希桶中第一待迁移数据,不需要针对每个数据都通过哈希算法计算,而且直接通过上述两个映射关系能够实现第一待迁移数据的跨集群迁移,实现了跨集群的高效数据迁移。

    一种数据库场景中优化分布式存储延迟的方法

    公开(公告)号:CN113296711B

    公开(公告)日:2022-10-28

    申请号:CN202110653004.X

    申请日:2021-06-11

    Abstract: 本发明公开了一种数据库场景中优化分布式存储延迟的方法,包括:步骤1,在容器连接主存储的IO链路上设置持久化缓存层;步骤2,容器中应用程序IO先持久化到持久化缓存层中;步骤3,持久化缓存层中的IO到达阈值或超时后,进行IO合并后刷入主存储中。通过在容器连接主存储的IO链路上设置持久化缓存层,容器中应用程序IO将优先持久化到持久化缓存层中,能有效减少IO的延迟,过滤IO尖峰;同时,IO在持久化后并未通过网络,减弱受网络稳定性因素的影响,通过将分布在持久化缓存层中的IO在到达阈值或超时后,再进行IO合并刷入后端的主存储中,提高了IO合并效率。该方法能降低分布式存储的延迟,提升分布式存储的性能。

Patent Agency Ranking