-
公开(公告)号:CN109508326B
公开(公告)日:2020-03-17
申请号:CN201811396773.0
申请日:2018-11-22
Applicant: 北京百度网讯科技有限公司
IPC: G06F16/182 , G06F16/2458 , G06F9/50
Abstract: 本申请实施例公开了用于处理数据的方法、装置和系统。该方法的一具体实施方式包括:响应于接收到待处理的键值对数据,根据键确定键值对数据的分片编号。根据分片编号从预设的分片树中确定目标分片编号,其中,分片树为二叉树结构,节点表征至少一个分片编号,节点与存储目录相对应。将键值对数据推送到目标分片编号对应的第二端,以供第二端将键值对数据写入第二端对应的存储目录。该实施方式提高了数据处理效率。
-
公开(公告)号:CN106406985A
公开(公告)日:2017-02-15
申请号:CN201610836654.7
申请日:2016-09-21
Applicant: 北京百度网讯科技有限公司
IPC: G06F9/46
Abstract: 本申请公开了分布式计算框架和分布式计算方法。该分布式计算框架的一具体实施方式包括:解析单元,用于解析分布式计算任务的表达式,确定算子、算子对应的字段;算子单元,用于提供算子,算子的输入参数包括:字段、字段型分布式数据集。实现了任意算子接收和返回的参数的类型均可以为字段型分布式数据集,任意算子均可对字段型分布式数据集中的对应于字段的数据进行操作。从而,任意算子均需实现一次,实现算子的复用。将分布式计算任务以较为简单的表达式显示地表达出来,简化了用户利用的分布式计算框架编写分布式计算程序的复杂度,进一步地,可以通过表达式确定分布式计算中涉及的算子,从而可以对分布式计算过程进行优化。
-
公开(公告)号:CN106406985B
公开(公告)日:2019-10-11
申请号:CN201610836654.7
申请日:2016-09-21
Applicant: 北京百度网讯科技有限公司
IPC: G06F9/46
Abstract: 本申请公开了分布式计算框架和分布式计算方法。该分布式计算框架的一具体实施方式包括:解析单元,用于解析分布式计算任务的表达式,确定算子、算子对应的字段;算子单元,用于提供算子,算子的输入参数包括:字段、字段型分布式数据集。实现了任意算子接收和返回的参数的类型均可以为字段型分布式数据集,任意算子均可对字段型分布式数据集中的对应于字段的数据进行操作。从而,任意算子均需实现一次,实现算子的复用。将分布式计算任务以较为简单的表达式显示地表达出来,简化了用户利用的分布式计算框架编写分布式计算程序的复杂度,进一步地,可以通过表达式确定分布式计算中涉及的算子,从而可以对分布式计算过程进行优化。
-
公开(公告)号:CN117827369A
公开(公告)日:2024-04-05
申请号:CN202311705211.0
申请日:2023-12-12
Applicant: 北京百度网讯科技有限公司
Abstract: 本公开提供了虚拟机改密方法、装置、电子设备及存储介质,涉及计算机技术领域,尤其涉及大数据、云计算等技术领域。具体实现方案为:通过高性能存储开发包SPDK获取目标虚拟机的改密请求;改密请求中包括目标密码以及目标虚拟机对应的磁盘标识;在SPDK中响应改密请求,以将磁盘标识对应的目标磁盘映射为支持内核操作的块设备nbd;通过内核将目标虚拟机的系统文件映射到nbd中;通过内核在nbd的系统文件中查询目标虚拟机的密码块位置信息;以及,由内核将密码块位置信息发送给SPDK,以使SPDK将目标磁盘中的密码块更新为目标密码。本公开实施例中改密路径较短,可以提高改密效率,亦可以节约资源。
-
公开(公告)号:CN117573176A
公开(公告)日:2024-02-20
申请号:CN202311568905.4
申请日:2023-11-22
Applicant: 北京百度网讯科技有限公司
Abstract: 本公开提供了一种存储服务进程的热升级方法及其装置,涉及计算机技术领域。具体实现方案为:确定待升级的旧存储服务进程所处的DPU,并在DPU上启动新存储服务进程;获取旧存储服务进程对应的旧存储服务参数,旧存储服务参数包括旧存储服务进程对应的第一块存储服务、第一SPDK控制器和第一SPDK块设备管理组件各自对应的参数信息;基于旧存储服务参数生成新存储服务进程对应的第二块存储服务和第二SPDK块设备管理组件;删除第一SPDK控制器并同时基于旧存储服务参数生成新存储服务进程对应的第二SPDK控制器;删除第一块存储服务和第一SPDK块设备管理组件并关闭旧存储服务进程。本方案实现在客户近乎无感知情况下的服务升级,大幅度压缩了升级过程中停止服务的时间。
-
公开(公告)号:CN109189746B
公开(公告)日:2021-01-22
申请号:CN201810761504.3
申请日:2018-07-12
Applicant: 北京百度网讯科技有限公司
IPC: G06F16/182 , G06F16/17
Abstract: 本发明公开了通用流式Shuffle引擎的实现方法、装置、设备及存储介质,其中方法包括:Shuffle获取dce writer在内存中进行计算的同时发送给Shuffle的数据;当每次符合预定条件时,Shuffle将获取到的数据在内存中进行排序后写入到HDFS,以便dce reader从HDFS中读取自身对应的数据。应用本发明所述方案,能够减少大量I/O等。
-
公开(公告)号:CN109508326A
公开(公告)日:2019-03-22
申请号:CN201811396773.0
申请日:2018-11-22
Applicant: 北京百度网讯科技有限公司
IPC: G06F16/182 , G06F16/2458 , G06F9/50
Abstract: 本申请实施例公开了用于处理数据的方法、装置和系统。该方法的一具体实施方式包括:响应于接收到待处理的键值对数据,根据键确定键值对数据的分片编号。根据分片编号从预设的分片树中确定目标分片编号,其中,分片树为二叉树结构,节点表征至少一个分片编号,节点与存储目录相对应。将键值对数据推送到目标分片编号对应的第二端,以供第二端将键值对数据写入第二端对应的存储目录。该实施方式提高了数据处理效率。
-
公开(公告)号:CN109189746A
公开(公告)日:2019-01-11
申请号:CN201810761504.3
申请日:2018-07-12
Applicant: 北京百度网讯科技有限公司
IPC: G06F16/182 , G06F16/17
Abstract: 本发明公开了通用流式Shuffle引擎的实现方法、装置、设备及存储介质,其中方法包括:Shuffle获取dce writer在内存中进行计算的同时发送给Shuffle的数据;当每次符合预定条件时,Shuffle将获取到的数据在内存中进行排序后写入到HDFS,以便dce reader从HDFS中读取自身对应的数据。应用本发明所述方案,能够减少大量I/O等。
-
公开(公告)号:CN119806733A
公开(公告)日:2025-04-11
申请号:CN202411864197.3
申请日:2024-12-17
Applicant: 北京百度网讯科技有限公司
Abstract: 本公开提供了虚拟机的服务质量控制方法、装置、设备以及存储介质,计算机技术领域,尤其涉及云计算、虚拟化、大数据等技术领域。具体实现方案为:虚拟机集群的目标层的目标令牌桶内的可用令牌量无法满足操作请求所需的目标令牌量的情况下,将所述操作请求存储在所述目标层对应的目标队列中;其中,所述目标层的令牌按照所述目标层的服务质量上限定期生成;在所述目标令牌桶内的可用令牌量更新至满足所述操作请求所需的目标令牌量的情况下,从更新后的可用令牌量中扣减所述目标令牌量;在成功扣减所述目标令牌量的情况下,将所述操作请求从所述目标队列中下发到所述目标层处理。
-
-
-
-
-
-
-
-