消息的跨集群路由转发方法及系统

    公开(公告)号:CN112511408A

    公开(公告)日:2021-03-16

    申请号:CN202011280044.6

    申请日:2020-11-16

    摘要: 本发明公开消息的跨集群路由转发方法及系统,其中,该方法包括:服务端获取分布式协调系统中被写入的路由规则配置记录;服务端利用Topic中的路由规则解析器将所述路由规则配置记录转换成对应的路由规则执行器;服务端利用所述路由规则执行器对Topic中需要路由的消息进行路由规则匹配,得到消息对应的路由集群列表;服务端利用Topic中的路由复制器依据所述路由集群列表将消息转发到对应的集群。本发明提供的消息的跨集群路由转发系统,采用上述消息的跨集群路由转发方法,通过在服务端依赖分布式协调系统进行路由规则配置来实现消息的跨集群路由复制转发,避免了额外计算资源的消耗,降低了维护成本。

    一种集群流量的控制方法及其系统

    公开(公告)号:CN110198274A

    公开(公告)日:2019-09-03

    申请号:CN201910542191.7

    申请日:2019-06-21

    IPC分类号: H04L12/801 H04L29/08

    摘要: 本发明公开了一种集群流量的控制方法及其系统,所述集群流量的控制方法包括:在全局网络内搭建一个分布式集群,统计所述全局网络内每个节点的流量,设置每个节点的节点流量阈值,通过所述节点流量阈值调控每个节点实际通过的请求流量;通过流量监控程序周期性的收集所述全局网络的实际请求流量,动态监控每个节点的流量阈值,并预测出下个周期每个节点的实际请求流量;通过流量通知程序接收所述流量监控程序发布的流量调控信息,再将所述流量调控信息传递至所述分布式集群的每个节点。所述集群流量的控制方法及其系统不仅能够限制整个分布式集群的整体流量,而且能够动态调整各节点的流量阈值,不让单一节点的性能瓶颈影响整个集群网络的压力。

    一种数据库单节点异常的恢复系统和方法

    公开(公告)号:CN110704223B

    公开(公告)日:2022-12-13

    申请号:CN201910870884.9

    申请日:2019-09-16

    IPC分类号: G06F11/07

    摘要: 本发明公开了一种数据库单节点异常的恢复系统和方法。所述恢复系统包括:指标采集模块,用于采集所述数据库的各节点指标,对所述节点指标进行差值计算和聚合处理,再将处理后的所述节点指标导入所述数据库的连接池;指标监控模块,所述指标监控模块用于监控导入到所述数据库连接池的所述节点指标,检查所述节点指标内的请求队列,当确认所述请求队列存在积压后,检查所述请求队列对应的存管服务器,确定所述存管服务器上所有Region单元的请求情况,若所述请求情况符合预设条件,则迁移所述存管服务器上的Region单元。本发明实施例能够自动处理数据库节点的异常,通过自动恢复数据库节点的异常,提高数据库集群的稳定性。

    消息的跨集群路由转发方法及系统

    公开(公告)号:CN112511408B

    公开(公告)日:2022-10-28

    申请号:CN202011280044.6

    申请日:2020-11-16

    摘要: 本发明公开消息的跨集群路由转发方法及系统,其中,该方法包括:服务端获取分布式协调系统中被写入的路由规则配置记录;服务端利用Topic中的路由规则解析器将所述路由规则配置记录转换成对应的路由规则执行器;服务端利用所述路由规则执行器对Topic中需要路由的消息进行路由规则匹配,得到消息对应的路由集群列表;服务端利用Topic中的路由复制器依据所述路由集群列表将消息转发到对应的集群。本发明提供的消息的跨集群路由转发系统,采用上述消息的跨集群路由转发方法,通过在服务端依赖分布式协调系统进行路由规则配置来实现消息的跨集群路由复制转发,避免了额外计算资源的消耗,降低了维护成本。

    一种数据库单节点异常的恢复系统和方法

    公开(公告)号:CN110704223A

    公开(公告)日:2020-01-17

    申请号:CN201910870884.9

    申请日:2019-09-16

    IPC分类号: G06F11/07

    摘要: 本发明公开了一种数据库单节点异常的恢复系统和方法。所述恢复系统包括:指标采集模块,用于采集所述数据库的各节点指标,对所述节点指标进行差值计算和聚合处理,再将处理后的所述节点指标导入所述数据库的连接池;指标监控模块,所述指标监控模块用于监控导入到所述数据库连接池的所述节点指标,检查所述节点指标内的请求队列,当确认所述请求队列存在积压后,检查所述请求队列对应的存管服务器,确定所述存管服务器上所有Region单元的请求情况,若所述请求情况符合预设条件,则迁移所述存管服务器上的Region单元。本发明实施例能够自动处理数据库节点的异常,通过自动恢复数据库节点的异常,提高数据库集群的稳定性。

    HBase的全量数据导入方法、装置、计算机设备及存储介质

    公开(公告)号:CN112395345B

    公开(公告)日:2024-09-20

    申请号:CN202011416521.7

    申请日:2020-12-04

    IPC分类号: G06F16/25 G06F16/21

    摘要: 本发明公开了一种HBase的全量数据导入方法、装置、计算机设备及存储介质,该方法包括:接收数据导入请求,根据所述数据导入请求在目标数据库中确定待导入数据对应的目标数据表,所述目标数据库包括HBase数据库,将所述目标数据表对应的历史数据文件缓存至预设的内存容器中,将待导入数据导入到目标数据库中,将所述历史数据文件从所述内存容器删除。本发明不需要对待导入数据的数据表执行清表操作,保证数据表始终在线一直对外提供服务,对于用户服务无感知,避免了服务中断问题,同时减少了数据库中的合并操作,大大降低了服务端的IO压力,防止出现写入放大的问题,保证了服务的稳定性。

    ES查询请求链路优化的方法及装置

    公开(公告)号:CN112800104A

    公开(公告)日:2021-05-14

    申请号:CN202011444261.4

    申请日:2020-12-08

    IPC分类号: G06F16/2458 G06F16/2455

    摘要: 本发明公开一种ES查询请求链路优化的方法及装置,涉及大数据技术领域,能够分散协调节点的压力,减少查询链路,提升ES查询的效率。该方法包括:定期请求服务端索引列表查询接口,更新客户端缓存中所有索引分片对应的数据存储节点地址;基于数据存储节点地址一一对应地匹配出与每个数据存储节点位于同一节点区域内的协调节点地址;发起ES查询请求,查询缓存中与ES查询请求对应的数据存储节点地址,将所匹配的协调节点地址作为目标地址请求服务端。该装置应用有上述方案所提的方法。

    一种消息流量管控的方法、装置及系统

    公开(公告)号:CN112468404A

    公开(公告)日:2021-03-09

    申请号:CN202011332467.8

    申请日:2020-11-24

    摘要: 本发明公开了一种消息流量管控的方法、装置及系统,属于及数据处理技术领域。所述方法包括:判断磁盘当前是否处于繁忙状态;判断消费端对于包含与其发送的消息请求对应的消息数据的消息集,是否存在消息滞后;若所述磁盘当前处于繁忙状态,且所述消息集对于所述消费端存在消息滞后,则将根据所述消息请求获取到的消息数据,按照预设的延迟时间返回至所述消费端。本发明通过磁盘状态的检测,当磁盘繁忙时,对有消息滞后的消费端进行限流,通过延迟返回消息数据来降低有滞后的消费端的消息拉取频率,从而减少页缓存被污染的频率。

    HBase的全量数据导入方法、装置、计算机设备及存储介质

    公开(公告)号:CN112395345A

    公开(公告)日:2021-02-23

    申请号:CN202011416521.7

    申请日:2020-12-04

    IPC分类号: G06F16/25 G06F16/21

    摘要: 本发明公开了一种HBase的全量数据导入方法、装置、计算机设备及存储介质,该方法包括:接收数据导入请求,根据所述数据导入请求在目标数据库中确定待导入数据对应的目标数据表,所述目标数据库包括HBase数据库,将所述目标数据表对应的历史数据文件缓存至预设的内存容器中,将待导入数据导入到目标数据库中,将所述历史数据文件从所述内存容器删除。本发明不需要对待导入数据的数据表执行清表操作,保证数据表始终在线一直对外提供服务,对于用户服务无感知,避免了服务中断问题,同时减少了数据库中的合并操作,大大降低了服务端的IO压力,防止出现写入放大的问题,保证了服务的稳定性。