-
公开(公告)号:CN110533112B
公开(公告)日:2023-04-07
申请号:CN201910830182.8
申请日:2019-09-04
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F18/23213 , G06F18/2411 , G06F18/25
Abstract: 本发明涉及一种车联网大数据跨域分析融合方法,其主要技术特点是:建立车联网云数据挖掘架构,该车联网云数据挖掘架构包括分布式数据访问引擎、并行挖掘引擎及代理节点和Web服务器集群;采用车联网数据挖掘算法进行数据挖掘;采用共享内存并行计算技术实现共享内存的并行功能。本发明采用由分布式数据访问引擎、并行挖掘引擎、Web服务器集群及代理节点构成的可支持并行计算的云数据挖掘架构,提高了面向海量数据的支撑能力;通过数据预处理技术、不确定数据预处理技术车联网行业数据处理与融合技术,优化流数据等车联网特有数据的支持;基于车联网流数据的挖掘、分析、聚类技术、行为识别、异常检测等新型数据挖掘算法,提升系统的智能化水平。
-
公开(公告)号:CN115361434A
公开(公告)日:2022-11-18
申请号:CN202210930712.8
申请日:2022-08-04
Applicant: 天津神舟通用数据技术有限公司
IPC: H04L67/145 , H04L67/1004
Abstract: 本发明涉及一种分布式系统高负载情况下的多路径心跳检测方法,其技术特点是:包括同步运行的独立心跳检测方法、业务功能心跳检测方法和对端主动应答心跳检测方法,如果任何一种心跳检测方法结果是正常的,则本轮心跳检测结果是正常的。本发明设计合理,其融合了高频检测、长超时时间、多路径检测的心跳检测方法,通过独立的心跳检测、业务功能、对端主动应答以及动态识别超时事件等方法,可以在较短的时间内识别出心跳故障状态,又可以在系统高压力下应对系统误判心跳故障问题,极大提升了数据库的稳定性和可用性。
-
公开(公告)号:CN115309550A
公开(公告)日:2022-11-08
申请号:CN202210930830.9
申请日:2022-08-04
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种MPP并行数据库实例级副本均衡方法,其技术特点是:存储IO的均衡策略为每个WAL日志配置单独存储硬盘,为业务数据配置一个共享的大容量存储硬盘;物理内存的均衡策略采用动态的数据页面缓冲区分配方式;计算资源的均衡策略采用自适应工作方式;回切原主实例策略包括平滑模式rebalance和速度模式rebalance以满足不同的场景需求。本发明充分考虑MPP并行数据库中并行计算、批量装载数据以及一次写入多次查询的特点,分别从存储IO、物理内存、计算资源和回切原主实例这四个方面进行实例级副本的均衡,最终实现了在不妥协从实例的冗余能力的基础上最大化主实例的计算服务能力。
-
公开(公告)号:CN112100190A
公开(公告)日:2020-12-18
申请号:CN202010993803.7
申请日:2020-09-21
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种基于更新序列的分布式锁状态同步方法,其主要技术特点是:在每个从节点锁对象上设置更新序列,主节点维护各个从节点持有锁状态的记录,并在每个记录上设置更新序列;从节点向主节点发送加锁请求;主节点根据请求节点锁状态进行加锁处理,返回加锁成功消息,或者向当前持有锁的冲突节点发送放锁请求;从节点收根据从节点锁状态进行放锁处理并返回放锁成功消息;主节点检查冲突节点锁状态当前的更新序列,再次尝试加锁处理;从节点检查锁状态当前的更新序列并再次尝试加锁。本发明设计合理,能够有效地维护各个节点之间锁状态的一致性,保证了数据库服务的正常运行,防止数据库服务的中断,提高了系统运行的安全性和可靠性。
-
公开(公告)号:CN112099961A
公开(公告)日:2020-12-18
申请号:CN202010993476.5
申请日:2020-09-21
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种基于锁状态缓存的分布式锁管理器的实现方法,包括步骤1、上层模块调用锁模块,进入锁模块并进行快速加锁;步骤2、检查是否有其他事务已经持有锁,处理锁冲突;步骤3、等待本节点事务放锁;步骤4、向主节点请求加锁,主节点处理加锁请求;步骤5、向持有锁的远程节点请求放锁,从节点处理放锁请求;步骤6、加锁成功,记录加锁信息并返回到上层模块。本发明设计合理,其通过主节点锁管理器和从节点锁状态缓存方式,即可以协调各个节点的加锁请求,保证数据库的一致性,又利用了数据库事务DML操作为主的特性,即节点上的锁状态缓存在大部分情况下都是有效的,有效减少了远程节点的访问开销,提高了加锁效率。
-
公开(公告)号:CN112099960A
公开(公告)日:2020-12-18
申请号:CN202010993466.1
申请日:2020-09-21
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F9/52
Abstract: 本发明涉及一种基于路径推进的分布式死锁检测方法,包括步骤1、各个节点启动时,创建死锁检测线程和死锁检测队列;步骤2、锁模块发起远程锁请求,将请求信息加入死锁检测队列;步骤3、死锁检测线程定时遍历死锁检测队列,发起死锁检测请求;步骤4、死锁检测进程将死锁检测请求发送到目标节点;步骤5、目标节点接收到死锁检测请求后,进行死锁检测请求处理;步骤6、发起检测请求的死锁检测线程接收目标节点返回信息并处理;步骤7、检测到死锁,唤醒请求信息所属的线程,解开等待链,继续执行步骤3。本发明每个节点都可以执行死锁检测任务,能够快速检测出系统中发生的死锁,同时避免死锁检测单点故障,保证了数据库系统的正常运行。
-
公开(公告)号:CN116644090B
公开(公告)日:2023-11-10
申请号:CN202310931499.7
申请日:2023-07-27
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/242 , G06F16/215 , G06F16/2455 , G06F16/9035
Abstract: 本申请公开了一种数据查询方法、装置、设备及介质,数据查询方法包括:获取数据查询请求,根据数据查询请求生成数据限制指令和数据扫描指令;其中,若数据查询请求中包含数据筛选规则,则数据限制指令中包含与数据筛选规则对应的数据筛选条件;若数据限制指令中包含数据筛选条件,则将数据筛选条件添加到数据扫描指令中;根据数据扫描指令执行数据扫描操作,按照数据限制指令从扫描到的数据得到目标数据,目标数据为数据查询请求对应的数据查询结果;其中,根据数据扫描指令执行数据扫描操作包括:若数据扫描指令中包含数据筛选条件,则根据数据筛选条件确定无需扫描的数据,并对需要扫描的数据进行扫描。
-
公开(公告)号:CN115630065A
公开(公告)日:2023-01-20
申请号:CN202211272183.3
申请日:2022-10-18
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/22 , G06F16/2453 , G06F3/06
Abstract: 本发明提出一种基于多压缩模式子分区表的存储和查询方法,包括:步骤S1、接收一系列按照预定格式流传输的块数据;步骤S2、基于预定格式进行解析,获取所述块数据中的数据组成;步骤S3、分析数据组成的不同部分,对应的采用不同压缩模式对数据块进行压缩;步骤S4、基于所采用的压缩模式,在第一查找表中匹配对应的分区号段,在压缩数据中单独设置的索引分区类型字段,将所述匹配到的索引分区号段作为附加数据;步骤S5、基于所述的分区号标志,存储到对应的子分区表中,并记录对应数据的索引和压缩模式字段;步骤S6、在数据存储过程中,对不同的子分区表,分配不同大小的连续空间进行存储;步骤S7、用户基于数据压缩模式或数据格式类型,在对应的索引存储表中进行检索。
-
公开(公告)号:CN110196859A
公开(公告)日:2019-09-03
申请号:CN201910495097.0
申请日:2019-06-10
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/23 , G06F16/242 , G06F16/27
Abstract: 本发明涉及一种基于JDBC分发器的数据库读写分离集群实时一致性方法,包括以下步骤:应用程序调用神通数据库JDBC驱动建立数据库连接时,由神通数据库JDBC驱动创建读写分离分发器;应用程序通过神通数据库JDBC在已建立的数据库连接上发送SQL语句,读写分离分发器对输入的SQL语句进行分析,生成执行策略:如果是主机执行策略,则读写分离分发器将SQL语句分发到主机执行并返回执行结果,如果是备机执行策略,则读写分离分发器将SQL语句分发到备机执行并返回执行结果。本发明设计合理,既可以通过备份服务分担主机的负载,又保证了数据查询的一致性,用户应用程序可以在不做任何修改的情况下直接利用读写分离系统提高并发性。
-
公开(公告)号:CN112099961B
公开(公告)日:2024-02-06
申请号:CN202010993476.5
申请日:2020-09-21
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种基于锁状态缓存的分布式锁管理器的实现方法,包括步骤1、上层模块调用锁模块,进入锁模块并进行快速加锁;步骤2、检查是否有其他事务已经持有锁,处理锁冲突;步骤3、等待本节点事务放锁;步骤4、向主节点请求加锁,主节点处理加锁请求;步骤5、向持有锁的远程节点请求放锁,从节点处理放锁请求;步骤6、加锁成功,记录加锁信息并返回到上层模块。本发明设计合理,其通过主节点锁管理器和从节点锁状态缓存方式,即可以协调各个节点的加锁请求,保证数据库的一致性,又利用了数据库事务DML操作为主的特性,即节点上的锁状态缓存在大部分情况下都是有效的,有效减少了远程节点的访问开销,提高了加锁效率。
-
-
-
-
-
-
-
-
-