-
公开(公告)号:CN116910099B
公开(公告)日:2023-11-17
申请号:CN202311139421.8
申请日:2023-09-06
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2455 , G06F16/22 , G06F16/2453 , G06F16/2458
Abstract: 本申请公开了一种数据处理方法、装置、设备及介质,数据处理方法包括:获取各第一数据单元和各第二数据单元,其中,各第一数据单元和各第二数据单元分别由第一数据集和第二数据集中的目标数据得到;对各第一数据单元和各第二数据单元执行条件过滤操作,根据第一关联条件对经条件过滤操作后剩余的各第一数据单元和各第二数据单元进行关联过滤操作;对经关联过滤操作后剩余的各第一数据单元执行重组操作,得到各第一数据单元集;根据第一数据单元集对经关联过滤操作后剩余的各第二数据单元执行重组操作,得到各第二数据单元集;其中,各第一数据单元集无交集;对具有映射关系的第一数据单元集和第二数据单元集执行数据处理操作,得到数据处理结果。
-
公开(公告)号:CN110533112B
公开(公告)日:2023-04-07
申请号:CN201910830182.8
申请日:2019-09-04
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F18/23213 , G06F18/2411 , G06F18/25
Abstract: 本发明涉及一种车联网大数据跨域分析融合方法,其主要技术特点是:建立车联网云数据挖掘架构,该车联网云数据挖掘架构包括分布式数据访问引擎、并行挖掘引擎及代理节点和Web服务器集群;采用车联网数据挖掘算法进行数据挖掘;采用共享内存并行计算技术实现共享内存的并行功能。本发明采用由分布式数据访问引擎、并行挖掘引擎、Web服务器集群及代理节点构成的可支持并行计算的云数据挖掘架构,提高了面向海量数据的支撑能力;通过数据预处理技术、不确定数据预处理技术车联网行业数据处理与融合技术,优化流数据等车联网特有数据的支持;基于车联网流数据的挖掘、分析、聚类技术、行为识别、异常检测等新型数据挖掘算法,提升系统的智能化水平。
-
公开(公告)号:CN115145961B
公开(公告)日:2025-05-16
申请号:CN202210778517.8
申请日:2022-07-01
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2455 , G06F16/901
Abstract: 本发明涉及一种神通数据库三层缓存段搜索管理结构及页面查找方法,其技术特点是:包括线程级缓存、段搜索全局缓存和物理空间;线程级缓存是一个线程的局部缓存;段搜索全局缓存包括全局缓存结点及全局缓存结点管理的一批空闲页面项,每个缓存结点管理的页面项按照空闲空间档位组织成多级链表;物理空间采用PFS页面进行管理,段内所有PFS页面均为多叉树状结构,一个PFS页面管理若干个数据页面,每个PFS页面记录一批数据页面以及它们的空间空闲值。本发明设计合理,提高了多线程并发查找页面的性能,有效地提高了并发性和吞吐率,解决了每次查找页面时都去访问段的PFS树造成大量I/O以及多个线程并发对PFS树进行搜索时产生的资源竞争的问题。
-
公开(公告)号:CN115174452B
公开(公告)日:2024-05-31
申请号:CN202210765191.5
申请日:2022-07-01
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种基于Oracle数据库协议代理的应用移植方法,其技术特点是:使用TNS协议代理程序对原Oracle网络进行拦截及监听;建立应用与TNS协议代理程序之间的连接、TNS协议代理程序与神通数据库之间的连接以及两个连接的映射关系;应用客户端通过TNS协议代理程序进行认证授权;认证授权后,TNS协议代理程序解析应用客户端发送的数据包并转发给神通数据库处理,神通数据库处理后通过TNS协议代理程序将处理结果发送给Oracle驱动。本发明采用将通信协议翻译转换为与神通数据库之间的协议模式,有效地解决了缺少应用系统源码难以进行移植的问题,并且任何语言开发的应用系统都可以访问神通数据库,提高了开发效率、降低了开发难度、扩大了应用范围。
-
公开(公告)号:CN117149885B
公开(公告)日:2024-01-26
申请号:CN202311422024.1
申请日:2023-10-31
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/25 , G06F16/23 , G06F16/242 , G06F16/2458 , G06F16/27
Abstract: 本发明公开了一种基于数据库主节点转发的读写分离实现方法,包括:步骤1:数据库主节点接收应用程序发送过来的SQL语句;步骤2:对SQL语句进行语法解析和语义分析,获得SQL语句类型以及操作的对象ID;步骤3:判断SQL语句是否为只读操作;步骤4:如果是,将SQL语句发送到从节点执行,等待接收到从节点执行结果后返回客户端;否则,直接在主节点执行SQL语句,将执行结果返回客户端;步骤5:如果不是,在主节点执行SQL语句;记录SQL语句更新的所有对象的ID;事务提交时,将本事务更新过的所有对象ID对应的LSN设置为本事务的提交LSN,供后续只读语句执行到步骤4时使用。因此主数据库可以专注于处理写操作,从而提高了写操作的性能和响应时间。
-
公开(公告)号:CN116644090B
公开(公告)日:2023-11-10
申请号:CN202310931499.7
申请日:2023-07-27
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/242 , G06F16/215 , G06F16/2455 , G06F16/9035
Abstract: 本申请公开了一种数据查询方法、装置、设备及介质,数据查询方法包括:获取数据查询请求,根据数据查询请求生成数据限制指令和数据扫描指令;其中,若数据查询请求中包含数据筛选规则,则数据限制指令中包含与数据筛选规则对应的数据筛选条件;若数据限制指令中包含数据筛选条件,则将数据筛选条件添加到数据扫描指令中;根据数据扫描指令执行数据扫描操作,按照数据限制指令从扫描到的数据得到目标数据,目标数据为数据查询请求对应的数据查询结果;其中,根据数据扫描指令执行数据扫描操作包括:若数据扫描指令中包含数据筛选条件,则根据数据筛选条件确定无需扫描的数据,并对需要扫描的数据进行扫描。
-
公开(公告)号:CN116910099A
公开(公告)日:2023-10-20
申请号:CN202311139421.8
申请日:2023-09-06
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2455 , G06F16/22 , G06F16/2453 , G06F16/2458
Abstract: 本申请公开了一种数据处理方法、装置、设备及介质,数据处理方法包括:获取各第一数据单元和各第二数据单元,其中,各第一数据单元和各第二数据单元分别由第一数据集和第二数据集中的目标数据得到;对各第一数据单元和各第二数据单元执行条件过滤操作,根据第一关联条件对经条件过滤操作后剩余的各第一数据单元和各第二数据单元进行关联过滤操作;对经关联过滤操作后剩余的各第一数据单元执行重组操作,得到各第一数据单元集;根据第一数据单元集对经关联过滤操作后剩余的各第二数据单元执行重组操作,得到各第二数据单元集;其中,各第一数据单元集无交集;对具有映射关系的第一数据单元集和第二数据单元集执行数据处理操作,得到数据处理结果。
-
公开(公告)号:CN116360709A
公开(公告)日:2023-06-30
申请号:CN202310629133.4
申请日:2023-05-31
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F3/06
Abstract: 本发明提供一种数据存取系统,包括,第一SSD缓存阵列,包括多个并联的SSD存储器;处理器,分别连接到多个并联的SSD存储器;第二双SSD目录备份存储器,包括两个互为备份的SSD存储器,且与第一SSD缓存阵列相连;第一HDD磁盘阵列,包括多个HDD磁盘,用于存储数据;多个传感器,用于探测SSD存储器和HDD磁盘的状态数据;性能管理单元,包括第一接口,分别连接到第一SSD缓存阵列中的每个SSD存储器;第三接口,分别连接到第一HDD磁盘阵列中的每个HDD磁盘;第二接口,与处理器相连;第四接口,连接到多个传感器,获取传感器探测的状态数据;第五接口,连接到第二双SSD目录备份存储器。
-
公开(公告)号:CN110196859A
公开(公告)日:2019-09-03
申请号:CN201910495097.0
申请日:2019-06-10
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/23 , G06F16/242 , G06F16/27
Abstract: 本发明涉及一种基于JDBC分发器的数据库读写分离集群实时一致性方法,包括以下步骤:应用程序调用神通数据库JDBC驱动建立数据库连接时,由神通数据库JDBC驱动创建读写分离分发器;应用程序通过神通数据库JDBC在已建立的数据库连接上发送SQL语句,读写分离分发器对输入的SQL语句进行分析,生成执行策略:如果是主机执行策略,则读写分离分发器将SQL语句分发到主机执行并返回执行结果,如果是备机执行策略,则读写分离分发器将SQL语句分发到备机执行并返回执行结果。本发明设计合理,既可以通过备份服务分担主机的负载,又保证了数据查询的一致性,用户应用程序可以在不做任何修改的情况下直接利用读写分离系统提高并发性。
-
公开(公告)号:CN117435629A
公开(公告)日:2024-01-23
申请号:CN202311733338.3
申请日:2023-12-18
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2455 , G06F16/2453 , G06F16/28
Abstract: 本发明公开一种数据处理方法、装置、设备及介质,包括:将初始数据划分为若干个行组单元,将由各行组单元按列压缩得到的各压缩单元进行存储;行组单元包含初始数据中的多行数据,压缩单元所包含数据通过压缩单元所对应的索引项表示;若压缩单元中的数据需要更新,则将发生更新的各行数据按行存储形式存储到该压缩单元对应的更新数据单元;根据数据查询指令确定待查询的数据列;根据压缩单元对应的索引项确定压缩单元是否可过滤;若存在与压缩单元对应的更新数据单元,根据压缩单元的过滤情况或压缩单元中待查询的数据列是否发生过更新,确定压缩单元对应的更新数据单元是否可过滤;从不可过滤的压缩单元和不可过滤的更新数据单元中查询目标数据。
-
-
-
-
-
-
-
-
-