-
公开(公告)号:CN110287010B
公开(公告)日:2021-09-14
申请号:CN201910507343.X
申请日:2019-06-12
Applicant: 北京工业大学
IPC: G06F9/48 , G06F12/0862 , G06F12/0877
Abstract: 本发明公开了一种面向Spark时间窗口数据分析的缓存数据预取方法,该方法分为6个步骤:初始化、判断预取时机、计算预取数据规模、确定预取数据放置位置、判断是否结束预取和结束。本发明依据时间窗口数据处理需求,以时间窗口为序,分段将时间窗口所需处理的RDD数据读入Spark缓存空间,并将已处理的RDD数据移出缓存,从而保障在缓存空间有限的情况下,每一个时间窗口需要处理的RDD数据均被成功缓存于内存空间,提升应用的执行效率。
-
公开(公告)号:CN111309577A
公开(公告)日:2020-06-19
申请号:CN202010102494.X
申请日:2020-02-19
Applicant: 北京工业大学
Abstract: 一种面向Spark的批处理应用执行时间预测模型构建方法属于分布式计算领域。本发明提出了一种考虑了不同应用特征的Spark批处理应用执行时间预测模型,首先根据Spark系统中批处理应用执行原理选取分类方法影响因素,从中筛选出强相关指标并构建批处理应用执行时间分类方法,然后在每一类批处理应用中充分分析了影响应用执行时间的指标并利用主成分分析法(PCA)和梯度提升决策树算法(GBDT)对应用执行时间进行预测,最后当即席应用到达之后,先判断其所属应用类别继而使用已构建的预测模型来预测其执行时间。
-
公开(公告)号:CN104951372B
公开(公告)日:2018-07-31
申请号:CN201510335305.2
申请日:2015-06-16
Applicant: 北京工业大学
Abstract: 种基于预测的Map/Reduce数据处理平台内存资源动态分配方法,分配方法分为五个步骤,初始化、任务内存资源使用预测、任务内存资源释放、任务内存资源追加和回溯。本方法针对Map任务和Reduce任务在运行过程中内存资源使用量具有明显波动性的特征,根据Map任务和Reduce任务运行过程中的内存使用量历史记录,采用线性回归和t检验法,统计任务内存使用规律,预测任务后续运行中需要使用的内存量,并根据任务内存使用预测量,动态追加或减少正在运行的Map任务和Reduce任务的内存分配量,从而有效提高Map/Reduce平台内存资源的使用效率,提升Map/Reduce作业的执行效率。
-
公开(公告)号:CN107086929A
公开(公告)日:2017-08-22
申请号:CN201710247307.5
申请日:2017-04-16
Applicant: 北京工业大学
IPC: H04L12/24 , H04L12/861 , H04L12/26 , H04L29/08
Abstract: 本发明公开了一种基于排队建模的批量流式计算系统性能保障方法,性能保障方法分为五个步骤,过程划分、组件选取、性能建模、延迟计算和瓶颈定位及优化。本方法针对批量流式计算系统在运行过程中负载强度具有明显波动性特征,抽取了批量流式计算系统中的关键组件,依据排队论理论构建系统的性能模型,并对模型进行数学解析;然后在系统运行过程中使用该模型计算不同负载强度下系统的数据处理延迟;在数据处理延迟无法满足数据处理时效性需求时,依据排队论原理定位性能瓶颈组件并给出优化配置建议。
-
公开(公告)号:CN104318163B
公开(公告)日:2017-06-16
申请号:CN201410584891.X
申请日:2014-10-27
Applicant: 北京工业大学
IPC: G06F21/57
Abstract: 本发明属于信息安全和可信计算技术领域,涉及一种第三方软件可信构建方法。所述方法包括:根据软件可信构建安全需求,生成基于XACML语言的可信软件策略语法语义;用户根据本发明提供的可信软件策略语法语义、参考软件开发商提供的参数扩展策略和自定义策略,根据自身安全需求,生成第三方软件的可信软件策略库;使用可信软件生成工具自动构建可信软件。本发明灵活性高;可对细粒度的软件行为进行监控,通过可信软件策略生成监控代码,实现对软件行为的有效控制。本发明提出的可信软件策略基于XACML语言描述用户的监控需求,具有良好的通用性和可扩展性;基于可信软件策略可自动生成监控代码,增强了用户对第三方软件安全性的影响力。
-
公开(公告)号:CN104317650A
公开(公告)日:2015-01-28
申请号:CN201410531590.0
申请日:2014-10-10
Applicant: 北京工业大学
Abstract: 一种面向Map/Reduce型海量数据处理平台的作业调度方法,属于海量数据处理领域,特别涉及Map/Reduce型海量数据处理平台中的作业调度和资源管理。本发明提出一种基于Reduce任务资源抢占的Map/Reduce作业调度方法,实现在Reduce任务处于空闲等待时,将其所占用的计算资源分配给Map任务使用。本发明主要包括:抢占资源、作业调度模块、应用管理模块、任务执行模块、节点管理模块、任务挂起与恢复方法、面向抢占资源的作业调度方法。本发明可以应用于数据中心的作业调度和资源管理,通过对于Map/Reduce作业中Reduce任务的抢占调度,实现数据中心计算资源的合理分配,提高计算资源利用率,同时缩短作业运行时间。
-
公开(公告)号:CN103905461A
公开(公告)日:2014-07-02
申请号:CN201410149573.0
申请日:2014-04-14
Applicant: 北京工业大学
IPC: H04L29/06
Abstract: 本发明提出了一种基于可信第三方的云服务行为可信证明方法和系统,涉及信息安全和可信计算技术领域。本发明增加了一个独立于云服务提供商以及云服务软件开发商的可信第三方,提高了证明的公正性。本发明对用户来说,具有云服务可信性可证明、支持动态多租户并发环境和隐私保护的特点。本发明通过对比监控到的软件服务实际行为是否超出预先提出的可信声明的预期,向云租户证明软件服务是否可信。现有的可信证明技术大部分通过对平台中软硬件完整性信息进行静态证明,证明信息只反映运行前的软硬件完整性,本方法属于动态证明方法,对软件的动态行为进行检测,可以有效的检测出正在运行的软件的恶意行为。
-
-
-
-
-
-