-
公开(公告)号:CN113821329A
公开(公告)日:2021-12-21
申请号:CN202111399905.7
申请日:2021-11-24
Applicant: 湖南大学
Abstract: 本发明公开了一种面向大规模数据的并行任务处理方法及系统,应用于面向大规模数据的并行任务处理系统,系统包括反馈节点、计算节点和主节点,方法包括如下步骤:当侦测到待处理数据时,向各个主节点发送工作状态检测信号;根据各个主节点反馈的工作状态信号,从各个主节点中确定管理节点;将待处理数据发送至管理节点;管理节点从各个计算节点中侦测空闲状态的计算节点作为处理节点;管理节点将待处理数据分发至各个处理节点,以通过各个处理节点对待处理数据进行数据处理,通过反馈节点接收各个处理节点的输出结果。本发明的技术方案有利于提高大规模数据的并行处理效率。
-
公开(公告)号:CN114372190A
公开(公告)日:2022-04-19
申请号:CN202210279242.3
申请日:2022-03-22
Applicant: 湖南大学
IPC: G06F16/953
Abstract: 本发明公开了一种互联网海量数据检索方法及系统,互联网海量数据检索系统包括服务器,以及与服务器分别通信连接的各个检索模块;服务器与用户终端通信连接;方法包括如下步骤:获取通过用户终端输入的检索条件,根据检索条件处理得到各个筛选信息,将根据各个筛选信息建立的检索式发送至服务器;将各个筛选信息和对应的检索式分别带入筛选结果预测模型,以确定检索模块数量;根据检索模块数量,将检索条件对应的检索任务向检索模块进行分配;将每个检索模块的筛选结果上传至服务器;在服务器中根据检索式对各个检索模块上传的筛选结果进行处理,按照筛选结果的重要性逐轮发布检索结果。本发明的技术方案有利于降低检索器的任务量。
-
公开(公告)号:CN114372190B
公开(公告)日:2022-05-17
申请号:CN202210279242.3
申请日:2022-03-22
Applicant: 湖南大学
IPC: G06F16/953
Abstract: 本发明公开了一种互联网海量数据检索方法及系统,互联网海量数据检索系统包括服务器,以及与服务器分别通信连接的各个检索模块;服务器与用户终端通信连接;方法包括如下步骤:获取通过用户终端输入的检索条件,根据检索条件处理得到各个筛选信息,将根据各个筛选信息建立的检索式发送至服务器;将各个筛选信息和对应的检索式分别带入筛选结果预测模型,以确定检索模块数量;根据检索模块数量,将检索条件对应的检索任务向检索模块进行分配;将每个检索模块的筛选结果上传至服务器;在服务器中根据检索式对各个检索模块上传的筛选结果进行处理,按照筛选结果的重要性逐轮发布检索结果。本发明的技术方案有利于降低检索器的任务量。
-
公开(公告)号:CN113821329B
公开(公告)日:2022-02-11
申请号:CN202111399905.7
申请日:2021-11-24
Applicant: 湖南大学
Abstract: 本发明公开了一种面向大规模数据的并行任务处理方法及系统,应用于面向大规模数据的并行任务处理系统,系统包括反馈节点、计算节点和主节点,方法包括如下步骤:当侦测到待处理数据时,向各个主节点发送工作状态检测信号;根据各个主节点反馈的工作状态信号,从各个主节点中确定管理节点;将待处理数据发送至管理节点;管理节点从各个计算节点中侦测空闲状态的计算节点作为处理节点;管理节点将待处理数据分发至各个处理节点,以通过各个处理节点对待处理数据进行数据处理,通过反馈节点接收各个处理节点的输出结果。本发明的技术方案有利于提高大规模数据的并行处理效率。
-
-
-