-
公开(公告)号:CN110990155A
公开(公告)日:2020-04-10
申请号:CN201911197625.0
申请日:2019-11-29
Applicant: 杭州电子科技大学 , 杭州电子科技大学舟山同博海洋电子信息研究院有限公司 , 浙江曙光信息技术有限公司
Abstract: 本发明公开了一种面向大规模安全监控的参数通信方法。本发明首先利用监控图片作为数据集,采用多节点集群组成参数服务器系统,其中一个节点作为参数服务器,其他节点作为计算节点。其次部署性能监控模型,参数服务器通过性能监控模块获取计算节点的性能参数。然后参数服务器以收集到的性能参数为依据,使用性能聚类算法计算出参数服务器下次同步计算节点的数量。最后计算节点根据同步标记选择全局模型或本地模型进入下一次迭代训练。本发明动态限制参数服务器的同步屏障规模,减少了同步通信开销,并且保证了模型训练的准确率;在计算节点间实现了有限异步计算,充分发挥了集群整体性能,实现集群动态负载均衡。
-
公开(公告)号:CN110990155B
公开(公告)日:2022-03-22
申请号:CN201911197625.0
申请日:2019-11-29
Applicant: 杭州电子科技大学 , 杭州电子科技大学舟山同博海洋电子信息研究院有限公司 , 浙江曙光信息技术有限公司
Abstract: 本发明公开了一种面向大规模安全监控的参数通信方法。本发明首先利用监控图片作为数据集,采用多节点集群组成参数服务器系统,其中一个节点作为参数服务器,其他节点作为计算节点。其次部署性能监控模型,参数服务器通过性能监控模块获取计算节点的性能参数。然后参数服务器以收集到的性能参数为依据,使用性能聚类算法计算出参数服务器下次同步计算节点的数量。最后计算节点根据同步标记选择全局模型或本地模型进入下一次迭代训练。本发明动态限制参数服务器的同步屏障规模,减少了同步通信开销,并且保证了模型训练的准确率;在计算节点间实现了有限异步计算,充分发挥了集群整体性能,实现集群动态负载均衡。
-
公开(公告)号:CN110929885A
公开(公告)日:2020-03-27
申请号:CN201911197322.9
申请日:2019-11-29
Applicant: 杭州电子科技大学 , 浙江曙光信息技术有限公司
Abstract: 本发明公开了一种面向智慧校园的分布式机器学习模型参数聚合方法,面向于数据并行策略下模型训练陷入局部最优解的问题。本发明从分布式机器学习算法的模型聚合方法出发,通过各计算进程的损失函数值来确定参数服务器在聚合局部模型参数时各计算进程局部模型的所占比例,提高了训练精度;使用计算进程直接无放回抽取数据的方法获得训练数据,降低了通信开销。本发明在应用到整体同步并行模型和延迟同步并行模型等同步模型时,能有效提高训练精度,同时不影响训练速度,训练结果应用于智慧校园可有效提高服务推荐的准确率。
-
公开(公告)号:CN110888744A
公开(公告)日:2020-03-17
申请号:CN201911197352.X
申请日:2019-11-29
Applicant: 杭州电子科技大学 , 浙江曙光信息技术有限公司
Abstract: 本发明公开了一种基于工作量自动调优的负载均衡方法。本发明通过自动化调优的方式为集群中每个计算节点找出最优工作量大小,并将全部计算节点的工作量汇总为一个最优工作量比例数组,然后将该数组运用到分布式机器学习模型训练中以达到平衡集群负载的效果。本发明通过自动化调优的方式为集群中每个计算节点找出最优工作量大小,从而有效地平衡了各节点之间的性能差异,有效缓解了滞后问题,提高了分布式机器学习模型训练的整体性能。
-
公开(公告)号:CN110888744B
公开(公告)日:2022-06-14
申请号:CN201911197352.X
申请日:2019-11-29
Applicant: 杭州电子科技大学 , 浙江曙光信息技术有限公司
Abstract: 本发明公开了一种基于工作量自动调优的负载均衡方法。本发明通过自动化调优的方式为集群中每个计算节点找出最优工作量大小,并将全部计算节点的工作量汇总为一个最优工作量比例数组,然后将该数组运用到分布式机器学习模型训练中以达到平衡集群负载的效果。本发明通过自动化调优的方式为集群中每个计算节点找出最优工作量大小,从而有效地平衡了各节点之间的性能差异,有效缓解了滞后问题,提高了分布式机器学习模型训练的整体性能。
-
公开(公告)号:CN113139143B
公开(公告)日:2022-07-12
申请号:CN202110350187.8
申请日:2021-03-31
Applicant: 杭州电子科技大学
IPC: G06F16/957 , G06F16/215 , G06F16/22 , G06F16/25 , G06F16/28 , G06F16/955
Abstract: 本发明公开了面向智慧校园的网页表数据与关系型数据库数据集成方法。本发明通过多分类器计算所有数据表对应属性列的相似度,获得属性关联关系后进行初步数据集成,有效降低属性之间的不确定性。通过爬虫获取校园网页中离散的网页表数据,使用混合标签匹配器得到多个网页表的标签映射关系,再将这些网页表缝合为一张较大网页表。将这缝合后的网页表转换为结构化数据表,与初步集成后的数据特征表进行数据集成,提高了集成数据完整性。本发明在传统的数据集成中增加了对校园网页中网页表数据的集成方法,使得最后得到的用户特征表更加完善,将网络上的数据与本地数据结合起来,进一步提升数据集成的准确率,发现有价值的潜在信息。
-
公开(公告)号:CN113139143A
公开(公告)日:2021-07-20
申请号:CN202110350187.8
申请日:2021-03-31
Applicant: 杭州电子科技大学
IPC: G06F16/957 , G06F16/215 , G06F16/22 , G06F16/25 , G06F16/28 , G06F16/955
Abstract: 本发明公开了面向智慧校园的网页表数据与关系型数据库数据集成方法。本发明通过多分类器计算所有数据表对应属性列的相似度,获得属性关联关系后进行初步数据集成,有效降低属性之间的不确定性。通过爬虫获取校园网页中离散的网页表数据,使用混合标签匹配器得到多个网页表的标签映射关系,再将这些网页表缝合为一张较大网页表。将这缝合后的网页表转换为结构化数据表,与初步集成后的数据特征表进行数据集成,提高了集成数据完整性。本发明在传统的数据集成中增加了对校园网页中网页表数据的集成方法,使得最后得到的用户特征表更加完善,将网络上的数据与本地数据结合起来,进一步提升数据集成的准确率,发现有价值的潜在信息。
-
公开(公告)号:CN110046048A
公开(公告)日:2019-07-23
申请号:CN201910314058.6
申请日:2019-04-18
Applicant: 杭州电子科技大学
IPC: G06F9/50
Abstract: 本发明公开了一种基于工作量自适应快速重分配(Adaptive Fast Reassignment,AdaptFR)的负载均衡方法,该方法通过性能监控工具获得各计算节点的性能参数,然后按照性能模型为每个计算节点重新分配工作量,使慢节点获得较少的计算量,快节点获得较多的计算量,借此平衡各节点之间的完成单次迭代的时间,从而间接性地平衡了集群的负载,提高了模型训练的性能。
-
公开(公告)号:CN110046048B
公开(公告)日:2021-09-28
申请号:CN201910314058.6
申请日:2019-04-18
Applicant: 杭州电子科技大学
IPC: G06F9/50
Abstract: 本发明公开了一种基于工作量自适应快速重分配(Adaptive Fast Reassignment,AdaptFR)的负载均衡方法,该方法通过性能监控工具获得各计算节点的性能参数,然后按照性能模型为每个计算节点重新分配工作量,使慢节点获得较少的计算量,快节点获得较多的计算量,借此平衡各节点之间的完成单次迭代的时间,从而间接性地平衡了集群的负载,提高了模型训练的性能。
-
公开(公告)号:CN110096838A
公开(公告)日:2019-08-06
申请号:CN201910404582.2
申请日:2019-05-16
Applicant: 杭州电子科技大学
Abstract: 本发明公开了一种基于N-S方程的直升机流场数值并行隐式求解方法,其面向于大规模旋翼直升机风洞试验模拟。本发明首先,将模拟风洞实验的流场计算模型进行分区,分成计算子模型,并对每个计算子模型建立分区边界和虚边界,同时把每个子模型分发给不同的计算节点,以此来提高计算速度;然后,在进行N-S方程迭代求解之前需要进行不同分区之间虚边界数据的通信,以此来保证通量守恒;最后,在分区边界采用虚边界的数据进行Jacobi迭代,在分区内部进行LU-SGS迭代,本发明采用Jacobi和LU-SGS迭代相结合的方法,在保证并行程序计算结果数据和串行程序计算结果数据一致的情况下,同时也提高了计算效率。
-
-
-
-
-
-
-
-
-