-
公开(公告)号:CN108073582B
公开(公告)日:2021-08-06
申请号:CN201610981871.5
申请日:2016-11-08
申请人: 中移(苏州)软件技术有限公司 , 中国移动通信集团公司
IPC分类号: G06F16/2458
摘要: 本发明实施例提供一种计算框架选择方法,包括:根据预定的数据挖掘过程选择预设组件;转换预设组件为有向无环图;为节点选择数据挖掘的计算框架;将节点提交到数据挖掘的计算框架,并使用数据挖掘的计算框架对节点进行计算;其中,有向无环图的节点与组件具有对应关系。本发明实施例同时还提供一种计算框架选择装置。
-
公开(公告)号:CN106354733B
公开(公告)日:2019-12-06
申请号:CN201510423499.1
申请日:2015-07-17
申请人: 中移(苏州)软件技术有限公司 , 中国移动通信集团公司
IPC分类号: G06F16/958
摘要: 本发明公开了一种微博用户影响力计算方法,包括:为微博用户构建传播模型;根据传播模型和加权佩奇排名(PageRank)算法计算微博用户的影响力;根据微博用户的影响力计算微博用户的影响力真实性系数;根据微博用户的影响力真实性系数计算微博用户的最终影响力。本发明还同时公开了一种微博用户影响力计算装置。
-
公开(公告)号:CN110020046A
公开(公告)日:2019-07-16
申请号:CN201710985479.2
申请日:2017-10-20
申请人: 中移(苏州)软件技术有限公司 , 中国移动通信集团公司
IPC分类号: G06F16/951 , G06F9/48
摘要: 本发明公开了一种数据抓取方法及装置,其中,所述方法包括:基于用户访问互联网的行为,生成网络爬虫对目标网站服务器进行抓取数据的任务对应的调度时间;基于所述调度时间对所述任务进行管理;在将所述任务发送给所述网络爬虫后,通过所述网络爬虫在所述目标网站服务器中进行数据抓取。用于解决现有数据抓取效率低,公平性差的技术问题,提高了数据抓取效率,且保证了抓取任务调度的公平性。
-
公开(公告)号:CN105808340B
公开(公告)日:2019-04-23
申请号:CN201410836737.7
申请日:2014-12-29
申请人: 中移(苏州)软件技术有限公司 , 中国移动通信集团公司
IPC分类号: G06F9/50
摘要: 本发明实施例公开了一种负载均衡方法及系统,所述方法包括:获取在第L超级步中每个任务的相关信息;依据每个任务的相关信息,预测每个任务在第K超级步中的激活顶点数量;依据每个任务在第K超级步的激活顶点数量,预测每个任务在第K超级步的运行时间;其中,L为大于等于1的正整数、K为大于L的正整数;依据每个任务在第K超级步中的运行时间,确定短板任务集合和长板任务集合;预测将短板任务集合中一任务上的数据迁移至长板任务集合中一任务上而产生的迁移收益及迁移代价;当迁移收益不低于迁移代价时,将短板任务集合中所述任务上的数据迁移至长板任务集合中的所述任务上。能够避免水桶效应,使各任务的计算负载均衡,提高计算效率。
-
公开(公告)号:CN105095248B
公开(公告)日:2019-04-23
申请号:CN201410185245.6
申请日:2014-05-04
申请人: 中国移动通信集团公司
摘要: 本发明提供了一种数据库集群系统及其恢复方法、管理节点。其中所述恢复方法包括:收集系统中各个数据库节点的事务日志;对收集的所有数据库节点的事务日志中的事务进行排序,得到事务列表;轮询事务列表中的事务,直至所有事务轮询完毕,其中,在轮询每个事务时,若当前轮询事务仅涉及一个相关数据库节,则将当前轮询事务的事务信息发送给相关数据库节点,并继续轮询所述事务列表中的下一个事务;否则,将当前轮询事务的事务信息发送给每个相关数据库节点,并在接收到所有相关数据库节点反馈的故障恢复完成消息后,才继续轮询所述事务列表中的下一个事务。本发明可以简便、高效地实现数据库恢复。
-
公开(公告)号:CN104850416B
公开(公告)日:2019-01-08
申请号:CN201410054935.8
申请日:2014-02-18
申请人: 中国移动通信集团公司
IPC分类号: G06F8/65
摘要: 本发明公开了一种升级系统、方法、装置及云计算节点,用以提高云计算集群系统升级的通用性和可靠性,包括RUM和多个云计算集群子系统,云计算集群子系统包括MN和至少两个SN,MN包括RUMA,SN包括RUA,其中:RUM用于在接收到系统升级指令之后,向RUMA发送系统升级请求;以及根据RUMA返回的升级管理信息确定升级策略;并向RUMA发送升级策略;RUMA用于在接收到系统升级请求之后,向MN获取SN的状态信息;根据获取的状态信息确定升级管理信息并发送给RUM;以及根据RUM发送的升级策略,向RUA发送系统升级指示信息;RUA用于在接收到系统升级指示信息之后,执行系统升级操作。
-
公开(公告)号:CN104750756B
公开(公告)日:2018-09-04
申请号:CN201310753082.2
申请日:2013-12-31
申请人: 中国移动通信集团公司
IPC分类号: G06F17/30
摘要: 本发明公开了一种数据操作方法、设备及元数据存储设备。元数据存储设备包括第一硬盘存储单元和第二硬盘存储单元。第一硬盘存储单元用于以保存对象存储系统中所有副本的位置信息;第二硬盘存储单元用于分别保存所述对象存储系统中每组对象存储设备存储的副本的位置信息。由于每组对象存储设备存储的副本的位置信息分别保存。在读取过程中,从一组对象存储设备存储的位置信息中查找目标对象的副本的位置信息,其效率远远高于从全部副本的位置信息中查找第一目标对象的副本的位置信息。另外,由于元数据保存在元数据存储设备的硬盘中,而非缓存元数据,从而保证了元数据存储的可靠性。
-
公开(公告)号:CN104754647B
公开(公告)日:2018-06-22
申请号:CN201310743398.3
申请日:2013-12-29
申请人: 中国移动通信集团公司
IPC分类号: H04W28/08
摘要: 本发明公开了一种负载迁移的方法和设备,包括:接收目标处理器发送的用于表征需要从源处理器中迁移待处理的任务的迁移请求信息,根据接收到的迁移请求消息中包含的目标处理器的标识信息,确定由源处理器和目标处理器协商的、用于放置源处理器中任务的描述符地址信息的中间表,根据所述迁移请求信息中包含了需要迁移待处理的任务的容量信息,确定待迁移的任务的描述符地址信息;并将确定的所述描述符地址信息写入确定的中间表中,以便于目标处理器从中间表中获取描述符地址信息,并根据描述符地址信息得到待迁移的任务,完成负载的迁移,通过引入中间表,将目前采用的基于自选锁的有锁负载均衡优化成无锁负载均衡,有效地提升了系统的整体性能。
-
公开(公告)号:CN108121745A
公开(公告)日:2018-06-05
申请号:CN201611085703.4
申请日:2016-11-30
申请人: 中移(苏州)软件技术有限公司 , 中国移动通信集团公司
摘要: 本发明实施例提供一种数据加载方法,该方法包括:根据需要加载的数据的主键字段对需要加载的数据排序,并生成数据文件;对排序后的需要加载的数据的主键字段采样,生成第一主键字段;根据第一主键字段生成数据表的分区信息,并根据数据表的分区信息对数据表进行分区;根据数据表的分区信息对数据文件进行分组,并根据分组结果生成数据表的分区文件;将数据表的分区文件加载到对应的数据表的分区中。本发明实施例同时还提供一种数据加载装置。
-
公开(公告)号:CN103188161B
公开(公告)日:2017-11-21
申请号:CN201110453878.7
申请日:2011-12-30
申请人: 中国移动通信集团公司
IPC分类号: H04L12/803 , H04L29/08 , H04L12/24
摘要: 本发明公开了一种分布式数据加载调度的方法及系统,其中,该方法包括:控制节点实时收集源加载节点和目的加载节点的运行状态信息;控制节点根据运行状态信息,生成配置更新信息下发给源加载节点和目的加载节点;其中,控制节点位于分布式系统中。本发明的分布式数据加载调度方法和系统,采用动态拓扑生成和自动调度方法,由于采用灵活的配置更新策略,保证了系统的负载均衡和高可靠性,提高了系统吞吐率,提高了数据加载的效率。
-
-
-
-
-
-
-
-
-