针对Hadoop MapReduce中混洗阶段的优化系统及方法

    公开(公告)号:CN110502337A

    公开(公告)日:2019-11-26

    申请号:CN201910627734.5

    申请日:2019-07-12

    Abstract: 本发明提供了一种针对Hadoop MapReduce中混洗阶段的优化系统,该优化系统以守护进程方式运行在Hadoop MapReduce的工作节点以及主节点中,并使用进程间通信以及远程过程调用的方式与Hadoop MapReduce进行通信。同时提供了一种基于上述优化系统实现的优化方法。本发明所提供的优化系统运行后接管Hadoop MapReduce任务运行中的所有中间数据,通过利用预先合并以及预先混洗的方式,一方面合理利用了Map阶段的空闲网络带宽,另一方面在合并同节点中的中间数据后有效减少小文件读写,从而优化了MapReduce任务的完成时间。

    字符串与识别符双向映射的查询方法和系统

    公开(公告)号:CN110222238A

    公开(公告)日:2019-09-10

    申请号:CN201910364317.6

    申请日:2019-04-30

    Abstract: 本发明提供了一种字符串与识别符双向映射的查询方法和系统,构造字典树建立数字类型识别符与字符串名称储存于字典树中的位置信息的一一映射关系;判断接收到的查询请求为正向查询请求或者反向查询请求;若为正向查询请求,通过传统字典树查询方式进行查询,并将识别符查询结果返回给用户;若为反向查询请求,查询该识别符所对应的字符串名称被储存在字典树中的位置信息;根据位置信息从字典树中还原完整的字符串信息,将完整字符串查询结果返回给用户。本发明能够复用字典树中已储存的字符串信息,在保证查询性能同时,显著降低了内存上的开销。

    一种基于NUMA和硬件辅助技术的高效网络IO处理方法

    公开(公告)号:CN107038061B

    公开(公告)日:2019-07-05

    申请号:CN201710244931.X

    申请日:2017-04-14

    Abstract: 本发明公开了一种基于NUMA和硬件辅助技术的高效网络I/O处理方法在虚拟化环境下,当SRIOV(Single‑Root I/O Virtualization)直接分配设备或半虚拟化设备产生一个物理中断后,通过分析处理物理中断的CPU,中断目的CPU以及底层网卡所在的NUMA(Non‑Uniform Memory Access Architecture)结点亲和性,结合虚拟CPU的运行信息,对Intel APICv硬件技术和Posted‑Interrupt机制在多核服务器上的中断处理效率进行优化,在充分减少VM‑exit引起的上下文切换负载的情况下,有效消除从中断产生到被虚拟机处理之间的所有递交延时和调用延时,使得虚拟机的I/O响应速率得到很大提高,极大优化数据中心网络的数据包处理效率。

    面向二阶段锁的多版本数据库并发控制方法和系统

    公开(公告)号:CN109947742A

    公开(公告)日:2019-06-28

    申请号:CN201910151025.4

    申请日:2019-02-28

    Abstract: 本发明提供了一种面向二阶段锁提供高效的多版本数据库并发控制的方法和系统,利用二阶段锁作为并发控制的特点,高效的获取事务的时间戳;在多版本数据库中,为只读事务选取合适的数据读取版本,为读写事务选取合适的数据写入版本,使得只读事务和读写事务之间不会受到锁的竞争带来的影响。和传统的二阶段锁相比,只读事务和读写事务之间没有冲突,极大的提升了只读事务和读写事务的性能。和传统的时间戳方法相比,不需要一个中心的时间戳服务器,因此不会给事务带来额外的通信开销和性能瓶颈。

    云调度器中应对不确定需求的多资源调度方法

    公开(公告)号:CN105871618B

    公开(公告)日:2019-05-24

    申请号:CN201610228390.7

    申请日:2016-04-13

    CPC classification number: G06F9/50

    Abstract: 本发明提供了一种云调度器中应对不确定需求的多资源调度方法,其使用两个针对公平效率的计算公式,作为优化问题中的成本函数。对于一些资源需求不确定的变化集合,原始非线性优化问题的鲁棒性对等式易于计算,所以本发明对这些资源需求不确定的集合的特征进行了建模,即椭球体不确定模型。该模型将每个系数向量置于一个超椭球形的空间中,并作为测量不确定度大小的一个度量。通过借助于椭球体不确定模型,来解决非线性优化问题,可以得出能够应对于动态变化需求的资源分配方案。

    一种面向边缘计算的自组云架构与优化方法及系统

    公开(公告)号:CN109302463A

    公开(公告)日:2019-02-01

    申请号:CN201811083007.9

    申请日:2018-09-17

    Abstract: 本发明提供了一种面向边缘计算的自组云架构与优化方法及系统,包括模型构建步骤:对层次化的无人机系统进行模型构建;适于无限虚拟机资源情形的去中心化计算卸载算法步骤:根据无人机系统的无人机终端带宽满足的条件分别进行博弈决策,达到纳什均衡;适于有限虚拟机资源情形的去中心化计算卸载算法步骤:设计去中心化计算卸载算法进行算法计算。本发明提供了一种分层去中心化的卸载方法,以在保持能效的同时降低通信开销;本发明将层次化无人机系统中的节能计算卸载决策问题建模为一种非合作博弈进行研究,针对无限虚拟机资源、有限虚拟机资源情形设计了去中心化的计算卸载算法,并证明了算法能达到纳什均衡。

    一种查询任务通信方法及系统

    公开(公告)号:CN109062929A

    公开(公告)日:2018-12-21

    申请号:CN201810596030.1

    申请日:2018-06-11

    Abstract: 本发明提供了一种查询任务通信方法及系统,包括:在接收到的查询请求的服务器解析查询请求,将查询请求中的查询语句分解成多个子步骤,子步骤的相关信息属于查询任务的元数据;从多个子步骤的第一个子步骤开始逐步处理查询请求,得到查询中间结果;若下一个子步骤依赖的数据在远端服务器,则将查询中间结果和查询任务的元数据分别通过GPUDirect RDMA和RDMA的方式发送给远端的服务器,远端服务器根据接收到的查询中间结果和查询任务的元数据继续处理查询请求的子步骤。本发明降低了整个通信过程的开销、避免了网络资源的争用且提高了整个查询系统的性能。

    一种基于层级化高度异构分布式系统的深度学习应用优化框架

    公开(公告)号:CN109005060A

    公开(公告)日:2018-12-14

    申请号:CN201810870834.6

    申请日:2018-08-02

    Abstract: 本发明公开了一种基于层级化高度异构分布式系统的深度学习应用优化框架,涉及计算科学方向深度学习领域,包括运行准备阶段和运行阶段,所述运行准备阶段用于进行深度神经网络训练,所述运行阶段对分布式系统中各类设备进行任务分配,并使用数据加密模块对用户敏感数据进行隐私保护。本发明的系统任务异构特性,在保证整体性能的前提下,降低系统响应时间,保证用户体验,基于神经网络的数据加密模块,能够以较低的计算代价和存储代价对用户敏感数据进行隐私保护,保障用户数据安全。

    嵌入式网络虚拟化环境中VirtIO网络虚拟化工作方法

    公开(公告)号:CN104618158B

    公开(公告)日:2018-05-04

    申请号:CN201510044201.6

    申请日:2015-01-28

    Abstract: 本发明提供了一种嵌入式网络虚拟化环境中VirtIO网络虚拟化工作方法,其针对VirtIO的前端驱动程序,对VirtIO网络引入延迟机制,使客户机在进行网络数据I/O时并不立刻将控制权移交给宿主机,而是将数据缓存到队列里,经过一定的时间后再进行上下文切换,通知宿主机从缓存队列获取数据。本发明显著地减少了客户机和宿主机上下文切换的次数,节省了大量的CPU资源以处理更多的网络I/O。通过实验可以发现,在设置一定的时间延迟内,网络吞吐量最大有3倍以上的提升。

Patent Agency Ranking