-
公开(公告)号:CN106959960B
公开(公告)日:2020-07-03
申请号:CN201610016651.9
申请日:2016-01-11
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/28
Abstract: 本发明实施例提供了一种数据获取方法及装置,所述方法的一具体实施方式包括:接收数据获取请求,所述数据获取请求包括至少一个关键词;确定各关键词的维度属性,并根据各维度属性与各标识信息的对应关系及各关键词与各标识信息的对应关系,确定所述数据获取请求中包括的各关键词对应的标识信息及各关键词的维度属性对应的标识信息;根据预设合并规则,将所述各关键词对应的标识信息及各关键词的维度属性对应的标识信息合并,得到所述数据获取请求对应的至少一个目标键值;基于所述目标键值,从预先保存的包含有各键值与各数据对应关系的立方表中,获取与所述数据获取请求匹配的数据。本实施例能够提高数据获取效率。
-
公开(公告)号:CN110851435A
公开(公告)日:2020-02-28
申请号:CN201810878972.9
申请日:2018-08-03
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/22
Abstract: 本申请是关于一种存储数据的方法及装置,属于监控领域。所述方法包括:从Kafka中获取待存储数据,所述待存储数据包括用户标识;根据所述用户标识,从用户标识与有向无环图Dag的对应关系中获取对应的Dag,所述Dag是根据多个数据库的写入顺序建立的,所述多个数据库的写入顺序是所述用户标识对应的用户配置的,所述Dag中的节点用于存储数据库的标识,所述节点的至少一个子节点用于存储写入顺序位于所述数据库之后的数据库的标识;根据所述Dag中包括的各数据库的写入顺序,将所述待存储数据存储到所述各数据库中。本申请能够实现按照用户需要的数据库存储顺序将数据存储到数据库中。
-
公开(公告)号:CN107818100B
公开(公告)日:2019-12-20
申请号:CN201610818671.8
申请日:2016-09-12
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/2455
Abstract: 本发明实施例提供了一种SQL语句执行方法及装置,所述方法包括:接收待执行的目标SQL语句;针对各编译过程,在本地保存的该编译过程输入与输出的对应关系中,查找是否存在与所述目标SQL语句在该编译过程的输入匹配的目标输入;如果存在,将所述目标输入对应的目标输出作为所述目标SQL语句在该编译过程的输出;如果不存在,根据所述目标SQL语句在该编译过程的输入,对所述目标SQL语句进行相应的编译,得到所述目标SQL语句在该编译过程的输出,将该输出作为所述目标SQL语句在下一编译过程的输入;当得到所述目标SQL语句在物理优化阶段输出的物理执行树时,将所述物理执行树输入执行引擎执行。本发明实施例能够提高SQL语句的执行速度。
-
公开(公告)号:CN106682042B
公开(公告)日:2019-11-22
申请号:CN201510766583.3
申请日:2015-11-11
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/2455 , G06F16/28
Abstract: 本发明实施例公开了一种关系数据缓存及查询方法及装置,该缓存方法包括:接收到待缓存的关系数据后,根据每个关联子数据与列簇中每列的对应关系,将每个关联子数据缓存到对应的列中,并根据每列是否缓存了该关系数据,更新位图索引中对应行的位图标识。由于在本发明实施例中基于位图索引和每列的对应关系表,进行关系数据缓存,并且关系数据被划分为多个关联子数据,分别进行缓存,因此提高了关系数据的缓存效率,并且该方法应用于电子设备的内存,提高了内存的利用率。
-
公开(公告)号:CN109033109A
公开(公告)日:2018-12-18
申请号:CN201710434019.0
申请日:2017-06-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F17/30
Abstract: 本申请公开了一种数据处理方法及系统,属于大数据领域,以动态生成有向无环图。所述方法包括:接收第一SQL操作指令;根据所述第一SQL操作指令生成第一有向无环图,所述第一有向无环图用于定义所述流式处理应用的逻辑处理计划,所述第一有向无环图包括输入节点、中间节点、输出节点和用于连接节点的有向边,所述输入节点对应所述事件源,每个所述中间节点对应一个数据集,所述输出节点用于输出结果数据,每个所述有向边对应一个运算逻辑;接收与所述第一有向无环图中指定节点对应的第二SQL操作指令;根据所述第二SQL操作指令对所述第一有向无环图进行修改。本申请用于大数据分析处理。
-
公开(公告)号:CN108614818A
公开(公告)日:2018-10-02
申请号:CN201611127382.X
申请日:2016-12-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F17/30
Abstract: 本发明实施例提供了一种数据存储、更新和查询方法及装置,该数据存储方法中,构建多个数据子立方体,并将所构建的多个数据子立方体作为当前层的数据子立方体;判断当前层的数据子立方体是否满足预设合并条件;如果满足,根据第一预设合并规则,将当前层的数据子立方体合并为上一层数据子立方体;判断上一层数据子立方体是否满足预设合并条件;如果满足,将上一层数据子立方体作为当前层的数据子立方体,再执行根据第一预设合并规则,将当前层的数据子立方体合并为上一层数据子立方体的步骤;如果不满足,保存所构建的多层数据子立方体。通过更新历史数据对应的数据子立方体实现对已存储的历史数据进行更新。
-
公开(公告)号:CN114064312B
公开(公告)日:2025-03-11
申请号:CN202111332051.0
申请日:2021-11-11
Applicant: 杭州海康威视数字技术股份有限公司
Inventor: 郭峰
Abstract: 本发明实施例提供了一种数据处理系统及模型训练方法,涉及大数据处理技术领域。系统包括至少一个任务节点,每个任务节点包括:至少一个数据计算子节点、至少一个模型训练子节点和共享内存;各个数据计算子节点是实时数据计算系统中的子节点,各个模型训练子节点是模型训练系统中的子节点;各个数据计算子节点,用于对获取到的第一待处理实时数据执行指定处理操作,得到第一处理结果,并将第一处理结果存储到共享内存;各个模型训练子节点,用于从共享内存读取第一处理结果,利用第一处理结果进行模型训练,得到训练完成的目标模型。与现有技术相比,应用本发明实施例提供的方案,可以提高实时数据的处理结果的时效性。
-
公开(公告)号:CN111427949B
公开(公告)日:2023-10-20
申请号:CN201910020151.6
申请日:2019-01-09
Applicant: 杭州海康威视数字技术股份有限公司
IPC: G06F16/27 , G06F16/2458
Abstract: 本申请是关于一种创建大数据服务的方法及装置,属于数据挖掘领域。所述方法包括:主节点根据M个大数据服务中的每个大数据服务对应的大数据服务组件模板和每个大数据服务的配置参数,生成每个大数据服务的容器镜像,构建服务集群,所述服务集群包括所述主节点和N个代理节点,安装有服务镜像以及每个代理节点安装有代理镜像,根据可执行文件和组件配置文件在所述服务集群中创建大数据服务,所述可执行文件包括至少一个大数据服务组件的组件标识,所述组件配置文件包括所述每个大数据服务组件的部署文件存储路径。本申请能够快速创建大数据服务。
-
公开(公告)号:CN110990394B
公开(公告)日:2023-10-20
申请号:CN201811143454.9
申请日:2018-09-28
Applicant: 杭州海康威视数字技术股份有限公司
Abstract: 本申请公开了一种分布式面向列数据库表的行数统计方法、装置和可读存储介质,属于计算机技术领域。本公开基于分布式面向列数据库HBase表中目标列族对应的数据文件获取每个数据文件的行数,并基于各个数据文件对应的行数累加的结果得到HBase表的行数。该方法无需遍历该HBase表的所有数据,减小了行数统计时缓存和读取的数据量,减少了对输入/输出(Input/Output,I/O)资源的消耗,提高了I/O的使用效率。
-
公开(公告)号:CN116049216A
公开(公告)日:2023-05-02
申请号:CN202211715814.4
申请日:2022-12-29
Applicant: 杭州海康威视数字技术股份有限公司
Inventor: 郭峰
IPC: G06F16/242 , G06F16/28 , G06F16/2458 , G06F16/901 , G06N5/025
Abstract: 本申请公开一种信息查询方法、装置及存储介质,涉及数据处理技术领域,用于在知识图谱中查询字段或者数据表的数据处理方法。该方法包括:获取查询条件信息,查询条件信息表征第一目标实体;基于查询条件信息,对数据仓库对应的知识图谱执行查询操作,获得查询结果;查询操作用于查询与第一目标实体具有关系的第二目标实体以及目标关系属性信息,目标关系属性信息表征第一目标实体与第二目标实体之间的关系;知识图谱用于指示多组第一实体与第二实体之间的关系,第一实体为数据表、字段或者数据处理方法,第二实体为数据表或者字段,数据表和字段归属于数据仓库,数据处理方法为用于对数据表或者字段进行处理的方法。
-
-
-
-
-
-
-
-
-