面向高性能数据并行DNN训练的稀疏化压缩方法及装置

    公开(公告)号:CN119005265A

    公开(公告)日:2024-11-22

    申请号:CN202411182560.3

    申请日:2024-08-27

    Abstract: 本申请属于计算机存储领域,具体公开了一种面向高性能数据并行DNN训练的稀疏化压缩方法及装置,该方法包括:获取在数据并行DNN训练系统中反向传播生成的多维度梯度张量;基于多维度梯度张量的输入维度信息和输出维度信息构建矩阵,获得多维度梯度张量矩阵;使用第一稀疏化压缩方案和第二稀疏化压缩方案对多维度梯度张量矩阵进行压缩;第一稀疏化压缩方案包括:对多维度梯度张量中的每个维度内的元素进行局部排序;在每个维度中选择k/M个最大的元素并保留,同时将其余元素置零,其中k为梯度元素个数,M为维度数量;第二稀疏化压缩方案包括:在多维度梯度张量的所有元素中选择绝对值最大的k个元素并保留,同时将其余元素置零。

    一种面向隐私保护的用户轨迹生成方法及系统

    公开(公告)号:CN111125764B

    公开(公告)日:2022-02-15

    申请号:CN201911345902.8

    申请日:2019-12-23

    Abstract: 本发明公开了一种面向隐私保护的用户轨迹生成方法及系统,属于数据安全领域。包括:将时间段t对应的位置元组数据流所在区域范围划分为层次网格,采用Geohash算法对各个网格编码,得到每个位置数据元组的编码字符串;根据划分后的网格和所有位置数据元组的编码字符串,生成元组数据流对应前缀层次树;将元组数据流划分为k段,根据隐私预算值对每段数据流进行采样,得到采样后的位置元组数据集根据差分隐私指数机制,将各个采样后的位置元组泛化到对应划分区域内,得到泛化后的位置元组数据集通过隐私预算,对处于相同划分网格内的元组数据合并得到用户轨迹。做到用户数据隐私的保密性的同时,保证一定的数据可用性以及流数据处理的高效性。

    一种面向隐私保护的用户轨迹生成方法及系统

    公开(公告)号:CN111125764A

    公开(公告)日:2020-05-08

    申请号:CN201911345902.8

    申请日:2019-12-23

    Abstract: 本发明公开了一种面向隐私保护的用户轨迹生成方法及系统,属于数据安全领域。包括:将时间段t对应的位置元组数据流所在区域范围划分为层次网格,采用Geohash算法对各个网格编码,得到每个位置数据元组的编码字符串;根据划分后的网格和所有位置数据元组的编码字符串,生成元组数据流对应前缀层次树;将元组数据流划分为k段,根据隐私预算值对每段数据流进行采样,得到采样后的位置元组数据集 根据差分隐私指数机制,将各个采样后的位置元组泛化到对应划分区域内,得到泛化后的位置元组数据集 通过隐私预算,对处于相同划分网格内的元组数据 合并得到用户轨迹。做到用户数据隐私的保密性的同时,保证一定的数据可用性以及流数据处理的高效性。

Patent Agency Ranking