-
公开(公告)号:CN119357243B
公开(公告)日:2025-05-02
申请号:CN202411945264.4
申请日:2024-12-26
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/2455 , G06F16/242
Abstract: 本申请实施例提供了一种结构化查询语言任务执行方法、装置及电子设备,涉及数据处理技术领域。方法包括:获取针对目标数据库的目标SQL语句;确定目标SQL语句中涉及的物理目标表,作为第一物理目标表;在各第一物理目标表中,确定不存在于目标数据库中的目标表,作为第二物理目标表;针对每个第二物理目标表,在目标SQL语句中确定第二物理目标表关联的选择语句,并根据选择语句涉及的字段,在目标数据库中生成第二物理目标表;基于目标数据库中存在的物理源数据表和物理目标表,执行目标SQL语句所指示的SQL任务。通过本申请实施例,在物理目标表发生变化时,计算引擎也能够准确的执行任务SQL。
-
公开(公告)号:CN111061758B
公开(公告)日:2023-10-20
申请号:CN201811204394.7
申请日:2018-10-16
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/2453 , G06F16/28
Abstract: 本发明公开了一种数据存储方法、装置及存储介质,属于数据处理技术领域。所述方法包括:从数据源获取多条数据,每条数据携带时间戳;根据该每条数据的时间戳,对该多条数据进行分类处理,得到多组数据;对该多组数据中的每组数据进行聚合统计,得到多个聚合数据;通过多个数据处理单元对该多个聚合数据进行分类存储,其中,该多个数据处理单元中的每个数据处理单元由内存和磁盘组成,每个数据处理单元中存储的聚合数据的类型相同。如此,在后续数据查询时,可以基于需要查询的数据的时间戳,从对应的数据处理单元中进行查询,提高了数据查询效率。
-
公开(公告)号:CN114116766A
公开(公告)日:2022-03-01
申请号:CN202111421425.6
申请日:2021-11-26
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/242 , G06F16/2455
Abstract: 本发明实施例提出计算引擎选择方法、装置及存储介质和电子设备。方法包括:获取待执行的SQL查询语句的SQL特征;获取SQL查询语句所要查询的表的数据特征;获取各计算引擎的状态特征;针对每个计算引擎,分别生成一个特征向量;将每个特征向量分别输入到资源消耗预测模型和耗时预测模型中进行计算,分别得到每个计算引擎执行SQL查询语句的预测资源消耗和预测耗时;根据每个计算引擎执行SQL查询语句的预测资源消耗和预测耗时,计算每个计算引擎执行所述SQL查询语句的预测代价;根据每个计算引擎执行SQL查询语句的预测代价,选择执行SQL查询语句的计算引擎。本发明实施例能够选择出执行SQL查询语句的性能最优的计算引擎。
-
公开(公告)号:CN113535754B
公开(公告)日:2024-07-02
申请号:CN202110848877.6
申请日:2021-07-27
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/242 , G06F16/2455 , G06F16/25 , G06F21/62 , G06F9/4401
Abstract: 本发明实施例提供了一种数据访问方法、装置及系统,应用于预设的驱动程序,该预设的驱动程序与各个数据库系统相通信,该数据访问方法包括:获取目标查询语句;从预先配置的数据安全信息中,确定各个数据库系统对应的目标策略;基于各个数据库系统对应的目标策略,对所述目标查询语句进行重写,得到各个数据库系统对应的、能够数据脱敏的待下发查询语句;针对每个数据库系统,基于该数据库系统对应的待下发查询语句,从该数据库系统中,获取经过数据脱敏的查询结果。通过本方案,可以兼顾多数据库系统具有协同能力以及低成本的数据安全访问。
-
公开(公告)号:CN113535754A
公开(公告)日:2021-10-22
申请号:CN202110848877.6
申请日:2021-07-27
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/242 , G06F16/2455 , G06F16/25 , G06F21/62 , G06F9/4401
Abstract: 本发明实施例提供了一种数据访问方法、装置及系统,应用于预设的驱动程序,该预设的驱动程序与各个数据库系统相通信,该数据访问方法包括:获取目标查询语句;从预先配置的数据安全信息中,确定各个数据库系统对应的目标策略;基于各个数据库系统对应的目标策略,对所述目标查询语句进行重写,得到各个数据库系统对应的、能够数据脱敏的待下发查询语句;针对每个数据库系统,基于该数据库系统对应的待下发查询语句,从该数据库系统中,获取经过数据脱敏的查询结果。通过本方案,可以兼顾多数据库系统具有协同能力以及低成本的数据安全访问。
-
公开(公告)号:CN119357243A
公开(公告)日:2025-01-24
申请号:CN202411945264.4
申请日:2024-12-26
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/2455 , G06F16/242
Abstract: 本申请实施例提供了一种结构化查询语言任务执行方法、装置及电子设备,涉及数据处理技术领域。方法包括:获取针对目标数据库的目标SQL语句;确定目标SQL语句中涉及的物理目标表,作为第一物理目标表;在各第一物理目标表中,确定不存在于目标数据库中的目标表,作为第二物理目标表;针对每个第二物理目标表,在目标SQL语句中确定第二物理目标表关联的选择语句,并根据选择语句涉及的字段,在目标数据库中生成第二物理目标表;基于目标数据库中存在的物理源数据表和物理目标表,执行目标SQL语句所指示的SQL任务。通过本申请实施例,在物理目标表发生变化时,计算引擎也能够准确的执行任务SQL。
-
公开(公告)号:CN111090705A
公开(公告)日:2020-05-01
申请号:CN201811236196.9
申请日:2018-10-23
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/28 , G06F16/2455
Abstract: 本发明提供一种多维数据处理方法、装置及设备、存储介质,该方法包括:确定读取的多维数据所属的数据层级,并依据所述数据层级对所述多维数据进行聚合得到属于对应数据层级的cube数据;将所述cube数据存入本地的目标层级缓存区中,所述目标层级缓存区是本地的与cube数据所属的数据层级对应的层级缓存区;判断所述目标层级缓存区中所述缓存的数据量是否达到指定阈值,若是,则将所述目标层级缓存区中缓存的数据转存至目标数据库的与所述数据层级对应的层级数据库表中。避免因多维数据的无差别聚合及存储而导致的查询cube数据时数据量大的问题,有利于提升查询效率。
-
公开(公告)号:CN111061758A
公开(公告)日:2020-04-24
申请号:CN201811204394.7
申请日:2018-10-16
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/2453 , G06F16/28
Abstract: 本发明公开了一种数据存储方法、装置及存储介质,属于数据处理技术领域。所述方法包括:从数据源获取多条数据,每条数据携带时间戳;根据该每条数据的时间戳,对该多条数据进行分类处理,得到多组数据;对该多组数据中的每组数据进行聚合统计,得到多个聚合数据;通过多个数据处理单元对该多个聚合数据进行分类存储,其中,该多个数据处理单元中的每个数据处理单元由内存和磁盘组成,每个数据处理单元中存储的聚合数据的类型相同。如此,在后续数据查询时,可以基于需要查询的数据的时间戳,从对应的数据处理单元中进行查询,提高了数据查询效率。
-
公开(公告)号:CN114116766B
公开(公告)日:2025-05-02
申请号:CN202111421425.6
申请日:2021-11-26
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/242 , G06F16/2455
Abstract: 本发明实施例提出计算引擎选择方法、装置及存储介质和电子设备。方法包括:获取待执行的SQL查询语句的SQL特征;获取SQL查询语句所要查询的表的数据特征;获取各计算引擎的状态特征;针对每个计算引擎,分别生成一个特征向量;将每个特征向量分别输入到资源消耗预测模型和耗时预测模型中进行计算,分别得到每个计算引擎执行SQL查询语句的预测资源消耗和预测耗时;根据每个计算引擎执行SQL查询语句的预测资源消耗和预测耗时,计算每个计算引擎执行所述SQL查询语句的预测代价;根据每个计算引擎执行SQL查询语句的预测代价,选择执行SQL查询语句的计算引擎。本发明实施例能够选择出执行SQL查询语句的性能最优的计算引擎。
-
公开(公告)号:CN111090705B
公开(公告)日:2023-08-25
申请号:CN201811236196.9
申请日:2018-10-23
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/28 , G06F16/2455
Abstract: 本发明提供一种多维数据处理方法、装置及设备、存储介质,该方法包括:确定读取的多维数据所属的数据层级,并依据所述数据层级对所述多维数据进行聚合得到属于对应数据层级的cube数据;将所述cube数据存入本地的目标层级缓存区中,所述目标层级缓存区是本地的与cube数据所属的数据层级对应的层级缓存区;判断所述目标层级缓存区中所述缓存的数据量是否达到指定阈值,若是,则将所述目标层级缓存区中缓存的数据转存至目标数据库的与所述数据层级对应的层级数据库表中。避免因多维数据的无差别聚合及存储而导致的查询cube数据时数据量大的问题,有利于提升查询效率。
-
-
-
-
-
-
-
-
-