一种基于Presto和Elasticsearch的大数据快速查询方法

    公开(公告)号:CN107748766A

    公开(公告)日:2018-03-02

    申请号:CN201710900970.0

    申请日:2017-09-28

    CPC classification number: G06F17/30964 G06F17/30946

    Abstract: 本发明涉及一种基于Presto和Elasticsearch的大数据快速查询方法,其将所有被查询数据包含时间字段并按日分索引的方式保存在Elasticsearch集群中,然后通过Presto集群接收并解析SQL请求生成相应的查询计划,获取满足查询计划的数据在Elasticsearch集群中的索引范围;通过逐步统计和计算,定位出所要查询的目标页数据所在的索引和时间区间;将时间区间加入原SQL语句的查询条件中从Elasticsearch集群中读取目标页的数据信息。本发明快速定位了目标页数据所在位置,大幅减少多余数据的读取,以提高随机跳页查询的性能。

    一种基于Presto和Elasticsearch的大数据快速查询方法

    公开(公告)号:CN107748766B

    公开(公告)日:2021-08-24

    申请号:CN201710900970.0

    申请日:2017-09-28

    Abstract: 本发明涉及一种基于Presto和Elasticsearch的大数据快速查询方法,其将所有被查询数据包含时间字段并按日分索引的方式保存在Elasticsearch集群中,然后通过Presto集群接收并解析SQL请求生成相应的查询计划,获取满足查询计划的数据在Elasticsearch集群中的索引范围;通过逐步统计和计算,定位出所要查询的目标页数据所在的索引和时间区间;将时间区间加入原SQL语句的查询条件中从Elasticsearch集群中读取目标页的数据信息。本发明快速定位了目标页数据所在位置,大幅减少多余数据的读取,以提高随机跳页查询的性能。

    一种面向大数据集群的访问权限管理方法及系统

    公开(公告)号:CN109902497A

    公开(公告)日:2019-06-18

    申请号:CN201910141056.1

    申请日:2019-02-26

    Inventor: 李明溪

    Abstract: 本发明属于数据处理技术领域,公开了一种面向大数据集群的访问权限管理方法及系统,包括提供访问权限管理系统、用户同步组件、权限控制插件及其相应控制逻辑;安装在大数据集群所属机器上的用户信息同步组件将会定期将用户及用户组信息发送至访问权限管理系统;系统管理员针对每种大数据集群自定义相应的权限策略,将读、写、查、执行等各种权限赋予相应的用户或用户组;安装在大数据集群上的权限控制插件自动同步对应的权限策略;权限控制插件会在用户访问大数据集群时对其进行鉴权,根据已定义的权限策略进行控制用户的访问权限。本发明通过采用严谨的权限策略逻辑,达到了大数据集群访问权限控制的目的。

Patent Agency Ranking