数据处理方法及装置
    21.
    发明公开

    公开(公告)号:CN109145060A

    公开(公告)日:2019-01-04

    申请号:CN201810800450.7

    申请日:2018-07-20

    Abstract: 本发明涉及互联网技术领域,尤其涉及一种数据处理方法及装置,预先设置了生产者模块和表存储模块,从MySQL集群的从服务器中确定一冷备服务器,通过冷备服务器的生产者模块解析binlog文件获得binlog解析数据,通过分析binlog解析数据获取表结构信息,并存入表存储模块,在输出消息实体时,将binlog解析数据和表存储模块内对应的表结构信息一起封装成消息实体并输出。本发明方案以旁路方式获取及解析binlog文件,不增加MySQL集群负担,确保了数据的完整性,同时丰富了数据的内容。

    数据的同步方法和装置
    22.
    发明公开

    公开(公告)号:CN106713487A

    公开(公告)日:2017-05-24

    申请号:CN201710030062.0

    申请日:2017-01-16

    Abstract: 本发明公开了一种数据的同步方法和装置。其中,该方法包括:检测到同步操作,同步操作用于请求将第一节点的目标类型的数据同步至第二节点;获取由同步操作触发的同步任务,同步任务用于将保存在第一节点的从设备上的目标类型的数据同步至第二节点,第一节点包括一个主设备和备份有主设备上数据的多个从设备;执行同步任务,从消息队列中读取包括目标类型的数据的目标消息,消息队列中缓存的消息携带有从第一节点的从设备获取的各个类型的数据;将目标消息中的目标类型的数据保存至第二节点。本发明解决了相关技术中进行数据同步处理时效率较低的技术问题。

    数据处理方法、装置、电子设备及存储介质

    公开(公告)号:CN117009439A

    公开(公告)日:2023-11-07

    申请号:CN202311279539.0

    申请日:2023-10-07

    Abstract: 本申请提供一种数据处理方法、装置、电子设备及存储介质,应用于云技术、人工智能、智慧交通、辅助驾驶等各种场景,方法包括:获取针对日志结构合并树中的目标数据的写操作所产生的过期数据;基于目标关键字从每层数据层所包括的预设数量个磁盘文件中,查找过期数据所在的目标磁盘文件;将目标关键字写入目标磁盘文件所在的数据层所对应的缓存结构中;根据每层数据层所对应的缓存结构中的关键字的数量,对每层数据层所包括的磁盘文件中的过期数据进行回收处理。本申请能够对过期数据进行准确且高效的回收,从而提高分布式数据库的文件存储效率、系统性能和查询效率,减少分布式数据库的空间和资源的浪费。

    元数据访问方法、装置、设备及存储介质

    公开(公告)号:CN116821058A

    公开(公告)日:2023-09-29

    申请号:CN202311086103.X

    申请日:2023-08-28

    Abstract: 本申请公开了一种元数据访问方法、装置、设备及存储介质,涉及云技术领域,该方法采用了元数据全局缓存的方案,该缓存方案为全局缓存文件‑缓存描述数组‑内存块三层架构,且在共享内存中可以按照元数据的数据长度划分存储区域,则当目标进程需要获取目标元数据时,则可以按照上述的三层架构逐层往下查询,直至获得已缓存的目标元数据的目标地址信息,并将目标地址信息返回给目标进程,实现目标元数据的访问,这样一来,对于所有的工作进程而言,都可以按照该方法访问到自身所需的元数据,从而无需自行维护自己的元数据缓存,降低工作进程之间重复元数据缓存,降低了占用的内存资源,同时也减少了重复元数据的传输资源占用,提升了资源利用率。

    数据修复方法、装置、计算机设备和存储介质

    公开(公告)号:CN116756247A

    公开(公告)日:2023-09-15

    申请号:CN202311052381.3

    申请日:2023-08-21

    Abstract: 本申请涉及一种数据修复方法、装置、计算机设备、存储介质和计算机程序产品,涉及到数据库的同步、数据对账及数据库修改领域。所述方法包括:将数据源系统和数据使用方系统中的其中一方作为目标数据系统,另一方作为对应数据系统;确定与目标数据系统适配的第一数据标识信息,并据此确定目标数据系统中的待对账数据;根据目标数据系统与对应数据系统之间的数据转换关系,将待对账数据转换为转换数据;获取第二数据标识信息,并据此确定对应数据系统中的目标数据;比较转换数据与目标数据之间的一致性,得到数据对账结果,并在数据不一致时对目标数据与待对账数据中的一种进行数据修复。采用本方法能够提高数据对账修复效率。

    数据查询方法、装置、电子设备以及存储介质

    公开(公告)号:CN115114325B

    公开(公告)日:2023-04-18

    申请号:CN202210731062.4

    申请日:2022-06-24

    Abstract: 本申请实施例提供了一种数据查询方法、装置、电子设备以及存储介质,涉及大数据和云技术领域。数据查询方法包括:获取待处理的查询语句;基于查询语句生成查询语句的目标解析树;将目标解析树作为第一次查询优化操作的查询输入信息,重复执行查询优化操作直至满足预设条件;基于满足预设条件时已获取到的访问路径提示,得到查询语句对应的目标访问路径提示,以基于目标访问路径提示进行查询,得到对应的查询结果。可以有效提高查询效率,尤其是在进行复杂查询时效果更加明显。

    事务执行方法、装置、计算设备及存储介质

    公开(公告)号:CN115114374A

    公开(公告)日:2022-09-27

    申请号:CN202210743434.5

    申请日:2022-06-27

    Abstract: 本申请公开了一种事务执行方法、装置、计算设备及存储介质,属于数据库技术领域。本申请通过在分布式数据库系统中预先定义将符合相似数据条件的数据记录尽可能存储在同一存储设备上,这样在涉及批量SQL操作的目标事务符合相似数据条件时能够确定一个目标存储设备,目标存储设备存储了目标事务涉及的所有数据记录,从而计算设备无需以2PC算法来协调目标事务,只需要将目标事务下推到目标存储设备,使得目标存储设备能够以单机事务的方式来执行目标事务,极大减少分布式数据库系统中需要以2PC算法协调的、涉及批量SQL操作的事务数量,简化了针对涉及批量SQL操作的事务的处理流程,提升了针对涉及批量SQL操作的事务的执行效率。

    分布式数据库的锁管理方法、装置、设备及存储介质

    公开(公告)号:CN115114305A

    公开(公告)日:2022-09-27

    申请号:CN202210369278.0

    申请日:2022-04-08

    Abstract: 本申请公开了一种分布式数据库的锁管理方法、装置、设备及存储介质,涉及数据库技术领域。本申请实施例可应用于云技术、人工智能、智慧交通、辅助驾驶、区块链等各种场景。在本申请中,分布式数据库包括管控节点和多个计算节点,所述方法由管控节点执行,所述方法包括:接收多个计算节点中的第一计算节点发送的锁申请消息;根据全局锁管理信息,确定锁申请消息是否有效;在确定锁申请消息有效的情况下,在全局锁管理信息中记录第一会话与第一锁之间的占用关系。本申请减少了接收到客户端请求的计算节点在使用数据时对锁信息的获取难度,减少了获取锁信息所消耗的时间,提高了数据处理的效率。

    请求处理方法、装置、计算设备及存储介质

    公开(公告)号:CN115113994A

    公开(公告)日:2022-09-27

    申请号:CN202111003764.2

    申请日:2021-08-30

    Abstract: 本申请公开了一种请求处理方法、装置、计算设备及存储介质,属于数据库技术领域。本申请通过对锁同步模式设置灵活的多个级别,在弱同步模式下,直接对数据请求对应的数据资源加锁,并执行该数据请求,能够保证数据请求优先推进,无需等待第二计算设备的响应,而在不是弱同步模式下,则获取各个第二计算设备的加锁反馈信息,在符合目标条件的情况下,才对该数据资源加锁并执行该数据请求,使得在不同业务场景下选取不同的锁同步模式,如在智慧交通场景下基于弱同步模式优先推进新增停车位的请求,但无需优先推进分享行程的请求,从而保证集群数据库能够满足不同业务场景的处理需求,提升了集群数据库系统的处理能力。

Patent Agency Ranking