面向大规模动态事务查询的动态自适应数据模型

    公开(公告)号:CN107301094A

    公开(公告)日:2017-10-27

    申请号:CN201710325734.0

    申请日:2017-05-10

    Applicant: 南开大学

    Abstract: 本发明涉及面向大规模动态事务查询时的动态自适应数据模型构建方法,包括以下步骤:从console、RPC、text、tail、日志系统、exec等数据源上实时地收集数据;对于高吞吐量的情况,调节实时性场景中数据采集与数据处理的速度,降低系统处理大规模动态工作负载的延时,保证系统的稳定性;对工作负载中的每一条数据库查询请求进行处理,提取出有效的分区信息,得到实时的数据模型;持续处理工作负载中的数据,处理单元的数量可以根据工作负载的规模动态调整,多个处理单元,可实现并行处理;将结果写入分布式文件系统,存储在MySQL数据库。本发明使用了流式框架,在分布式集群中合理分配资源,健壮性上得以提高。

Patent Agency Ranking