-
公开(公告)号:CN109885453B
公开(公告)日:2023-02-28
申请号:CN201910119278.3
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
Abstract: 本发明公开了一种基于流数据处理的大数据平台监控系统,所述系统包括:数据收集层,用于进行大数据平台各服务日志数据的抓取上报、服务及主机指标数据的抓取上报、服务及主机可用性数据抓取和配置信息收集;接入计算层,用于对所述数据收集层收集的日志和指标数据进行计算、汇聚和持久化;存储检索层,用于对接入计算层进行计算、汇聚和持久化后的数据进行存储和检索查询;数据展示层,用于进行日志类型的数据展示、历史类型的数据展示和实时类型的数据展示。
-
公开(公告)号:CN109901948B
公开(公告)日:2022-04-12
申请号:CN201910119253.3
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F11/14
Abstract: 本发明公开了一种无共享数据库集群异地双活容灾系统,所述系统包括:任务调度器,位于MPP集群Server服务器端,用于对于主、备集群分别执行不同的调度任务;任务执行器,位于MPP集群的NodeAgent节点代理端,为MPP集群节点代理层的执行线程,用于接收任务调度器分配的调度任务并执行;消息总线模块,用于为所述无共享数据库集群异地双活容灾系统提供消息交互功能;DNS代理服务模块,用于主、备MPP集群对外提供服务的接口,并通过更新实现集群主、备之间的自动切换。
-
公开(公告)号:CN108256115B
公开(公告)日:2022-02-25
申请号:CN201810142899.9
申请日:2018-02-11
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F16/182 , G06F16/172 , G06F16/14
-
公开(公告)号:CN109885656B
公开(公告)日:2021-06-29
申请号:CN201910119276.4
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F16/33 , G06F40/279 , G06Q10/04 , G06Q50/00
Abstract: 本发明公开了一种基于量化热度的微博转发预测方法及装置,所述方法包括:在假定微博平台每天总的转发量不变的情况下,每天根据每个话题当天的阅读量占当天所有话题阅读总量的比例确定该话题的热度,并基于所述话题的热度对微博话题进行排序,得到实时的微博热门话题表;将微博内容与微博热门话题表中的前N个微博话题进行比较,根据微博内容与话题内容的相关性确定微博内容与该微博话题的热度,并将微博内容相对于各个话题的热度进行累加,得到最终的微博热度;根据微博热度和基本特征对微博转发进行预测。
-
公开(公告)号:CN109918229B
公开(公告)日:2021-03-30
申请号:CN201910119274.5
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F11/14
Abstract: 本发明公开了一种非日志模式的数据库集群副本构建方法及装置,方法包括:加载工具直连第一个副本,进行数据实时入库加载,并以事务为单位构建同步记录;复制流程调度器加载元数据,检查节点状态,构造多个副本的拓扑关系,启动各个节点上的复制执行器,将构建的拓扑信息携带在复制处理消息中通过消息总线发送给复制执行器;复制执行器从消息总线获取复制处理消息,解析拓扑信息,查找到数据源,通过自身副本的全局唯一GID标识以及数据源的同步记录跟踪表,检查增量数据,如果没有,则循环等待,否则执行下步;复制执行器计算增量数据的同步范围信息,读取给定范围的数据,加载至本身节点上的副本,并构造本次数据复制的同步记录,执行步骤3。
-
公开(公告)号:CN109901948A
公开(公告)日:2019-06-18
申请号:CN201910119253.3
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F11/14
Abstract: 本发明公开了一种无共享数据库集群异地双活容灾系统,所述系统包括:任务调度器,位于MPP集群Server服务器端,用于对于主、备集群分别执行不同的调度任务;任务执行器,位于MPP集群的NodeAgent节点代理端,为MPP集群节点代理层的执行线程,用于接收任务调度器分配的调度任务并执行;消息总线模块,用于为所述无共享数据库集群异地双活容灾系统提供消息交互功能;DNS代理服务模块,用于主、备MPP集群对外提供服务的接口,并通过更新实现集群主、备之间的自动切换。
-
公开(公告)号:CN109885656A
公开(公告)日:2019-06-14
申请号:CN201910119276.4
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
Abstract: 本发明公开了一种基于量化热度的微博转发预测方法及装置,所述方法包括:在假定微博平台每天总的转发量不变的情况下,每天根据每个话题当天的阅读量占当天所有话题阅读总量的比例确定该话题的热度,并基于所述话题的热度对微博话题进行排序,得到实时的微博热门话题表;将微博内容与微博热门话题表中的前N个微博话题进行比较,根据微博内容与话题内容的相关性确定微博内容与该微博话题的热度,并将微博内容相对于各个话题的热度进行累加,得到最终的微博热度;根据微博热度和基本特征对微博转发进行预测。
-
公开(公告)号:CN109885429A
公开(公告)日:2019-06-14
申请号:CN201910124263.6
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F11/14
Abstract: 本发明公开了一种大数据灾备方法及装置,所述方法包括:将本数据中心的将待入库数据写入Kafka中间件,将Kafka中间件中的待入库数据备份到另外一个数据中心,接收所述另外一个数据中心发送的灾备数据,并将所述灾备数据写入所述Kafka中间件;在备份完成后,通过Flume将Kafka中间件的待入库数据进行入库。
-
公开(公告)号:CN109885316A
公开(公告)日:2019-06-14
申请号:CN201910119277.9
申请日:2019-02-18
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F8/61
Abstract: 本发明公开了一种基于kubernetes的hdfs-HBase部署方法,所述方法包括:计算层通过kubernetes模块获取服务器信息,打包基础镜像,并在所述镜像仓库中保存Hbase基础配置;在用户创建Hbase应用时,计算层通过管理页面获取用户输入的需求信息,修改Hbase基础配置,遴选服务器并打标签,并根据本次Hbase部署的需求信息,生成yaml文件,并调用所述kubernetes模块;所述kubernetes模块按照所述yaml文件要求部署并启动Hbase集群,并将所述Hbase集群添加到巡检队列中;所述巡检系统对所述巡检队列进行轮询。
-
公开(公告)号:CN108536727A
公开(公告)日:2018-09-14
申请号:CN201810158888.X
申请日:2018-02-24
Applicant: 国家计算机网络与信息安全管理中心
IPC: G06F17/30
Abstract: 本发明公开了一种数据检索方法和装置。根据请求数据检索的结构化查询语言SQL语句生成执行计划;判断所述执行计划是否满足流式结果返回条件;如果满足流式结果返回条件,则在执行所述执行计划的过程中,逐个获取检索结果并逐个提供给用户,直至所有检索结果获取完毕并提供给用户为止。本发明在数据检索过程中,逐个获取检索结果,并且一边获取检索结果一边提供给用户使用,有效降低了使用SparkSQL进行数据检索时的结果返回响应时间和检索总消耗时间,提升了SparkSQL框架进行数据检索时的效率和可用性,并且通过流式返回方式,解决了SparkSQL在进行大结果集检索时可能出现的内存问题,使SparkSQL框架进行大结果集检索成为可能。
-
-
-
-
-
-
-
-
-