一种基于Spark的表关系探测方法及系统、介质

    公开(公告)号:CN117539862A

    公开(公告)日:2024-02-09

    申请号:CN202311492358.6

    申请日:2023-11-09

    Abstract: 本发明涉及数据处理技术领域,具体而言,涉及一种基于Spark的表关系探测方法及系统、设备、介质,主要包括了将数据集分为多个数据分区,每个数据分区在Spark集群中的不同计算节点上进行处理;通过哈希计算将主键和外键转化为哈希值,通过哈希值创建分布式哈希表,所述哈希表包括主键和外键的哈希索引,利用哈希索引,在每个数据分区中执行主键和外键的比较操作,确定记录主键和外键之间的关联。通过本发明的提供的方法,由于使用了Spark引擎,本方案在处理大规模数据时具有高度可扩展性,能够应对不断增长的数据需求,采用主外键比较,本方案确保了准确的主外键匹配,从而降低了误差率。这有助于数据的准确性和一致性。

    区块链交易方法及装置
    22.
    发明公开

    公开(公告)号:CN109670956A

    公开(公告)日:2019-04-23

    申请号:CN201811574303.9

    申请日:2018-12-21

    CPC classification number: G06Q40/04 G06Q20/405

    Abstract: 本申请提供的区块链交易方法及装置,通过间隔一定时间从区块链系统中已经存在的区块中随机选取一个区块作为超级区块,同时,将选取超级区块的时间作为已经存在区块的第一时间戳。当所述区块链系统收到多个新生成区块时,将新生成区块的生成时间作为第二时间戳。计算多个第二时间戳和第一时间戳的差值。将所述差值中最小差值对应的区块作为有效区块。本申请有效解决区块链交易过程中双花问题的同时,不需要经过多个区块后才能确认交易生效,提高了交易效率。

Patent Agency Ranking