一种非结构化数据的元数据存储方法、装置、介质及设备

    公开(公告)号:CN117349401B

    公开(公告)日:2024-03-15

    申请号:CN202311665185.3

    申请日:2023-12-06

    Abstract: 在本说明书提供的一种非结构化数据的元数据存储方法、装置、介质及设备中,通过响应于第一用户输入的包含非结构化数据的元数据存储请求,对非结构化数据的提取,确定符合预设元数据分类的原始数据。再通过对原始数据的解析,确定原始数据中对应预设元数据分类的结构化元数据。最后将结构化元数据存储在湖仓一体存储平台中,供第二用户检索并管理。使得不同权限的用户能够高效的检索并管理非结构化数据中需要管理的结构化元数据。

    一种非结构化数据的元数据存储方法、装置、介质及设备

    公开(公告)号:CN117349401A

    公开(公告)日:2024-01-05

    申请号:CN202311665185.3

    申请日:2023-12-06

    Abstract: 在本说明书提供的一种非结构化数据的元数据存储方法、装置、介质及设备中,通过响应于第一用户输入的包含非结构化数据的元数据存储请求,对非结构化数据的提取,确定符合预设元数据分类的原始数据。再通过对原始数据的解析,确定原始数据中对应预设元数据分类的结构化元数据。最后将结构化元数据存储在湖仓一体存储平台中,供第二用户检索并管理。使得不同权限的用户能够高效的检索并管理非结构化数据中需要管理的结构化元数据。

    一种基于容器技术的元数据构建方法、装置、介质及设备

    公开(公告)号:CN119226589A

    公开(公告)日:2024-12-31

    申请号:CN202411763553.2

    申请日:2024-12-03

    Abstract: 本说明书提供了一种基于容器技术的元数据构建方法、装置、介质及设备,接收原始数据的元数据构建请求,确定该原始数据的参数信息。调用用于构建元数据的容器,将参数信息输入容器,以唤醒容器的客户端工具,并基于客户端工具选择相应元数据处理器,使容器获取原始数据以及根据所述原始数据构建对应的元数据。根据该容器构建的元数据,依据预设存储规则更新元数据索引表。通过容器将各元数据构建任务隔离,使得各元数据构建任务之间具有良好的资源隔离性。通过容器的管理与调度实现多线程高并发地执行元数据构建任务,提高元数据构建任务的构建效率的同时,提高系统的可用性和资源利用率,可以容易通过增加节点来水平扩展系统,以应对突发流量。

    一种存储任务断点同步方法、装置、介质及设备

    公开(公告)号:CN117743472B

    公开(公告)日:2024-05-07

    申请号:CN202410171179.0

    申请日:2024-02-06

    Abstract: 本说明书公开了一种存储任务断点同步方法、装置、介质及设备,响应于继续执行指令,确定存储任务的任务标识和存储任务对应的布隆过滤器。根据存储任务,确定目的存储器,以及读取各待存储的数据单元的唯一标识。依次针对每个待存储的数据单元,根据该数据单元的唯一标识,以及布隆过滤器,判断该数据单元是否未存储。若是,将该数据单元存储到目的存储器,更新布隆过滤器,直至将各待存储的数据单元都存储至目的存储器为止。否则继续判断下一个数据单元是否未存储。存储任务中断后继续执行的过程中,通过更新的布隆过滤器,能够高效准确的判断待存储的数据单元是否未存储,使得存储任务中断后能够在断点处及时运行,实现了存储任务的及时完成。

    一种天体数据索引构建方法、装置、存储介质及电子设备

    公开(公告)号:CN119226296B

    公开(公告)日:2025-05-13

    申请号:CN202411742057.9

    申请日:2024-11-29

    Abstract: 本说明书公开了一种天体数据索引构建方法、装置、存储介质及电子设备。在本说明书提供的天体数据索引构建方法中,获取观察到的天体的位置信息;根据所述位置信息确定所述天体基于预设中心点的相对位置,作为所述天体的索引位置;按照指定规则对各天体的索引位置进行排序,得到目标序列,并建立每个天体的索引位置在所述目标序列中的顺序与该天体之间的对应关系;以所述目标序列中包含的各索引位置和所述各索引位置在所述目标序列中的顺序为变量进行建模,得到所述顺序和所述索引位置之间的关系函数;根据所述对应关系以及所述关系函数构建天体数据索引。

    一种天体数据索引构建方法、装置、存储介质及电子设备

    公开(公告)号:CN119226296A

    公开(公告)日:2024-12-31

    申请号:CN202411742057.9

    申请日:2024-11-29

    Abstract: 本说明书公开了一种天体数据索引构建方法、装置、存储介质及电子设备。在本说明书提供的天体数据索引构建方法中,获取观察到的天体的位置信息;根据所述位置信息确定所述天体基于预设中心点的相对位置,作为所述天体的索引位置;按照指定规则对各天体的索引位置进行排序,得到目标序列,并建立每个天体的索引位置在所述目标序列中的顺序与该天体之间的对应关系;以所述目标序列中包含的各索引位置和所述各索引位置在所述目标序列中的顺序为变量进行建模,得到所述顺序和所述索引位置之间的关系函数;根据所述对应关系以及所述关系函数构建天体数据索引。

    一种存储任务断点同步方法、装置、介质及设备

    公开(公告)号:CN117743472A

    公开(公告)日:2024-03-22

    申请号:CN202410171179.0

    申请日:2024-02-06

    Abstract: 本说明书公开了一种存储任务断点同步方法、装置、介质及设备,响应于继续执行指令,确定存储任务的任务标识和存储任务对应的布隆过滤器。根据存储任务,确定目的存储器,以及读取各待存储的数据单元的唯一标识。依次针对每个待存储的数据单元,根据该数据单元的唯一标识,以及布隆过滤器,判断该数据单元是否未存储。若是,将该数据单元存储到目的存储器,更新布隆过滤器,直至将各待存储的数据单元都存储至目的存储器为止。否则继续判断下一个数据单元是否未存储。存储任务中断后继续执行的过程中,通过更新的布隆过滤器,能够高效准确的判断待存储的数据单元是否未存储,使得存储任务中断后能够在断点处及时运行,实现了存储任务的及时完成。

Patent Agency Ranking