-
公开(公告)号:CN110781212A
公开(公告)日:2020-02-11
申请号:CN201910892123.3
申请日:2019-09-20
Applicant: 成都四方伟业软件股份有限公司
IPC: G06F16/2455 , G06F16/242
Abstract: 本发明公开了一种SQL高效计算和访问的方法、组件及系统,本技术方案将会修改CALCITE源码来实现元数据和汇总表的物理存储,将元数据和汇总表存储在外储存器,利用外储存器断电后数据不会丢失的特性,解决CALCITE服务停止运行带来的影响,同时,由于CALCITE解析得到的元数据被同时存储在RAM和外储存器中,当CALCITE接收到处理过的SQL语句时,在系统没出现过停止运行的情况下可以直接读取RAM中的元数据,根据元数据在外储存器中匹配执行结果;即使系统出现过停止运行的情况,也可以直接读取外储存器中的元数据,根据元数据在外储存器中匹配执行结果。
-
公开(公告)号:CN110059107A
公开(公告)日:2019-07-26
申请号:CN201910322178.0
申请日:2019-04-19
Applicant: 成都四方伟业软件股份有限公司
IPC: G06F16/2453
Abstract: 本发明提供了一种计划优化方法、装置、系统及计算机可读存储介质,涉及大数据技术领域,该方法包括:根据预设的计划查询节点对本地计划的状态进行查询;当查询到准备执行本地计划时,基于本地计划中预设的分区参数确定按照自适应优化规则在分区中执行本地计划;其中,自适应优化规则为基于可配置的数据处理门限和计划执行过程中的元数据对计划进行重新分区的规则;基于自适应优化规则,采集本地计划在各分区执行过程中的元数据,根据采集到的元数据和数据处理门限对本地计划的执行分区进行优化。本发明可以实现对计划的动态调整,改善各分区处理数据倾斜的问题,从而提高集群资源利用率和SQL的运行性能。
-
公开(公告)号:CN110059091A
公开(公告)日:2019-07-26
申请号:CN201910321713.0
申请日:2019-04-22
Applicant: 成都四方伟业软件股份有限公司
IPC: G06F16/22 , G06F16/25 , G06F16/245 , G06F16/28
Abstract: 本申请提出一种索引构建的方法、装置、客户端、服务器及系统。当客户端接收到服务器反馈的第一信息时,即依据hive表生成映射表,并将映射表和索引参数通过索引构建请求发送给服务器,以使服务器接收到该请求后,构建对应的索引。减少了手动建立索引的繁杂过程,从而节约了大量的时间和人力成本,减少了出错的可能性。
-
公开(公告)号:CN109687875A
公开(公告)日:2019-04-26
申请号:CN201811384936.3
申请日:2018-11-20
Applicant: 成都四方伟业软件股份有限公司
IPC: H03M7/30
CPC classification number: H03M7/30
Abstract: 本发明公开了一种时序数据处理方法,时序数据包括输出时间点和多个指标,方法包括以下步骤:提取输出时间点的多指标数据块;构建时间序列和指标序列的映射关系;提取指定时间窗口的时间序列和时间序列对应的多指标数据块聚合为字节数据流;压缩聚合后的字节数据流并输出;本发明通过将一个时间点的多指标时序数据,使用同一时间实现多指标数据块的聚合,从而减少多个时间存储消耗;以字节流方式进行数据压缩,避免指标类型的限制导致压缩算法的受限,同时,对于位存储的指标数据聚合也能有效减少指标数据的存储消耗;通过本发明的方法有效提高了时序数据的压缩处理效率,时序压缩比以及存储效率。
-
-
-