一种数据处理方法、装置、电子设备及存储介质

    公开(公告)号:CN117149902A

    公开(公告)日:2023-12-01

    申请号:CN202310827402.8

    申请日:2023-07-06

    Abstract: 本申请公开一种数据处理方法、装置、电子设备及存储介质,属于大数据技术领域,包括:分别为每个服务器上发生的数据更改事件设置偏移量并将每个数据更改事件和每个数据更改事件的偏移量保存至数据表中,按照数据表中记录的偏移量的顺序,分别对每个数据更改事件执行如下操作,将数据更改事件作为待同步数据更改事件并根据待同步数据更改事件的偏移量以及偏移量表内记录的每个服务器对应的已完成偏移量,向多个服务器中的部分或全部服务器发送针对待同步数据更改事件的数据同步指令,接收多个服务器中的部分或全部服务器发送的同步完成消息并基于同步完成消息将对应服务器的已完成偏移量更新为待同步数据更改事件的偏移量,实现数据库的高可用性。

    节点选举方法、装置、电子设备及存储介质

    公开(公告)号:CN114363154A

    公开(公告)日:2022-04-15

    申请号:CN202111681518.2

    申请日:2021-12-29

    Inventor: 康建伟 马怡安

    Abstract: 本公开提供了一种节点选举方法、装置、电子设备及存储介质,涉及计算机技术领域。该方法包括:当第一Leader节点宕机时,将分布式系统中的一Follower节点转换为候选者Candidate节点以接收选举消息,选举消息由剩余Follower节点发送至Candidate节点,选举消息包括剩余Follower节点的任期数和日志索引值;利用Candidate节点进行选举,将Candidate节点和剩余Follower节点中任期数最大的节点选举为第二Leader节点,当任期数最大的节点不唯一时,将任期数最大的节点中日志索引值最大的节点选举为第二Leader节点。本公开能够在不增加服务节点及计算复杂度的前提下,保证异常状况下服务切换前后的强一致性。

    用于流式数据做历史增量聚合的方法及相关设备

    公开(公告)号:CN116628022A

    公开(公告)日:2023-08-22

    申请号:CN202310480249.6

    申请日:2023-04-28

    Abstract: 本公开提供了一种用于流式数据做历史增量聚合的方法及相关设备,涉及大数据处理技术领域。该方法包括,根据分组条件,确定原始数据流的键值与键值数据流;将键值数据流进行开窗处理,确定初步聚合数据流;将初步聚合数据流与远程字典服务Redis数据库建立连接;根据键值在Redis数据库中查询;若Redis数据库中存在键值对应的历史数据,则取出历史数据与初步聚合数据流进行累加之后存入Redis数据库。本公开能够高效而准确地实现对流式数据做历史增量聚合统计。

Patent Agency Ranking