-
公开(公告)号：CN110942147B
公开(公告)日：2021-04-20
申请号：CN201911195445.9
申请日：2019-11-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供基于多方安全计算的神经网络模型训练方法、模型预测方法及装置。神经网络模型被分割为至少一个客户端模型和至少一个服务端模型，服务端模型部署在服务端，客户端模型部署在对应训练参与方的客户端。在每次循环时，训练样本数据被提供给神经网络模型来得到当前预测值和当前预测差值。在各个客户端模型，经由各个训练参与方使用各自的客户端子模型以及所接收的数据逐层进行多方安全计算。在各个服务端模型，使用在前客户端模型的计算结果逐层进行非多方安全计算。在循环未结束时，根据当前预测差值，通过反向传播来调整服务端模型和客户端子模型的各层模型参数。利用该方法，能够在确保隐私数据安全的情况下提高模型训练效率。
-
公开(公告)号：CN112580826A
公开(公告)日：2021-03-30
申请号：CN202110160640.9
申请日：2021-02-05
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供用于经由第一成员设备和至少两个第二成员设备训练业务模型的方法、装置和系统。各个第二成员设备具有本地业务模型和本地样本数据，并且所具有的本地样本数据是非独立同分布数据。各个第二成员设备将本地样本数据分布信息提供给第一成员设备。第一成员设备根据各个第二成员设备的本地样本数据分布信息确定整体样本数据概率分布，并发送给各个第二成员设备。各个第二成员设备根据整体样本数据概率分布和超参数，从本地样本数据中确定各类样本数据的扩充样本数据，所述扩充样本数据用于扩充业务模型的训练样本数据。
-
-
公开(公告)号：CN112396477A
公开(公告)日：2021-02-23
申请号：CN202011594832.2
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种业务预测模型的构建方法及装置，在构建方法中，包括多轮迭代，其中的第t轮迭代可以包括：获取当前计算逻辑结构。根据当前计算逻辑结构中各条边的当前备选概率，以及各条边各自所代表的基础运算的计算复杂度，确定当前计算逻辑结构的结构复杂度。将用于训练业务预测模型的第一业务样本输入当前计算逻辑结构，根据当前计算逻辑结构的输出，至少以最小化结构复杂度为目标，更新当前计算逻辑结构中各条边的当前备选概率。至少根据多轮迭代后的当前计算逻辑结构中各条边的当前备选概率，确定目标计算逻辑结构。目标计算逻辑结构中任意两个节点之间至多通过一条边连接。基于目标计算逻辑结构，构建业务预测模型。
-
公开(公告)号：CN112396191A
公开(公告)日：2021-02-23
申请号：CN202011593534.1
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种基于联邦学习进行模型参数更新的方法、系统及装置，能够用于数据隐私保护。所述方法由参与方中任一训练成员实现，包括对模型参数进行多轮更新，其中一轮迭代更新包括：获取与其他参与方具有相同结构的待训练模型，待训练模型包括多个网络层；基于持有的训练样本及样本标签进行训练，获得梯度矩阵；基于梯度矩阵更新一阶矩矩阵和二阶矩矩阵，其中，一阶矩矩阵和二阶矩矩阵分别包括与待训练模型网络层一一对应的多个层子矩阵；与服务器交互，逐层传输至少部分层子矩阵中的至少部分元素给所述服务器，以便服务器逐层更新模型参数；从所述服务器获取更新后的模型参数以将其作为待训练模型进行下一次训练，或者基于此确定最终模型。
-
Patent Agency Ranking
公开(公告)号：CN112148801B
公开(公告)日：2021-02-12
申请号：CN202011332527.6
申请日：2020-11-24
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种保护数据隐私的多方联合进行业务对象预测的方法，该方法应用于数据持有方，且包括：先利用哈希算法计算本地存储的对象样本对应的样本哈希，并记录在区块链中；再将对象样本加密发送至可信第三方，以使其在计算并查询出该样本哈希被记录在区块链中时，向数据使用方发送利用数据持有方的第一公钥加密对象样本而得到的加密样本；接着，从数据使用方接收双加密预测结果，其基于数据使用方本地部署的业务预测模型和加密样本进行同态运算，得到第一加密预测结果后，利用第二公钥对其进行加密而得到；再利用第一私钥解密双加密预测结果，得到第二加密预测结果，以使数据使用方利用第二私钥对其进行解密，得到预测结果明文。
-
公开(公告)号：CN112000990B
公开(公告)日：2021-02-05
申请号：CN202011164969.4
申请日：2020-10-27
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供一种隐私保护的数据处理方法、装置、设备及机器学习系统。一个方法实施例中，在多方参与的数据共享应用场景中需要获取机器学习算法中使用的非线性激活函数的数据处理结果时，可以使用非线性激活函数的无损表达式，利用多方安全计算协同计算各个子项，可以避免将其展开为多项式的近似求值算法，降低计算复杂性，提高了计算机设备计算非线性激活函数数据处理的效率。并且，可以大幅度降低例如泰勒展开等近似计算非线性激活函数的复杂程度和精度损失。
-
公开(公告)号：CN111931947B
公开(公告)日：2021-02-05
申请号：CN202011082377.8
申请日：2020-10-12
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00
Abstract: 本说明书一个或多个实施例涉及一种用于分布式模型训练的训练样本重组方法及系统，所述方法由参与方中的服务器实现；所述方法包括：获取融合训练样本集；所述融合训练样本集包括来自一个或多个训练成员的训练样本；获取第一模型，并将所述第一模型发送给各训练成员；对各训练成员进行一轮或多轮训练样本重组，其中每轮重组包括：获取当前轮的传输比例系数；基于所述传输比例系数为各训练成员选择部分训练样本并下发；获取各训练成员上传的当前轮对应的模型性能参数；所述当前轮对应的模型性能参数为训练成员基于自身持有的训练样本以及服务器下发的训练样本进行训练得到的模型的模型性能参数；确定进行下一轮重组，或者停止重组。
-
公开(公告)号：CN112148755A
公开(公告)日：2020-12-29
申请号：CN202010927160.6
申请日：2020-09-07
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/2455 , G06F16/248 , G06F21/60 , G06F21/64
Abstract: 本说明书提供一种基于秘密共享的隐私数据访问方法、装置、设备及系统，通过将待访问隐私数据的序号进行秘密共享拆分成序号第一份额、序号第二份额分发给保存有隐私数据库份额的第一方和第二方，使得第一方和第二方均无法获知待访问隐私数据的序号。第一方和第二方利用接收到的序号第一份额、序号第二份额对各自保存的数据库第一份额、数据库第二份额中的数据的序号进行打乱。再通过两次不经意传输，使得第一方和第二方分别从对方那获取到访问数据第一份额、访问数据第二份额，基于访问数据第一份额、访问数据第二份额可以获得待访问隐私数据，可以实现第一方和第二方在互相保密的前提下访问隐私数据库中某个元素。
-
公开(公告)号：CN112101555A
公开(公告)日：2020-12-18
申请号：CN202011269090.6
申请日：2020-11-13
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种多方联合训练模型的方法和装置，多方包括服务器和多个训练成员，方法由多个训练成员中的任一训练成员执行，方法包括多轮迭代更新，其中任意一轮迭代更新包括：利用从服务器获取的当前模型参数，更新本地的第一模型；根据本方的超参数，对应于动量梯度下降的方式确定本轮迭代中更新的本地动量；本方的超参数，根据本地的第一样本集合而确定；将更新的本地动量加密后得到本地的加密动量；向服务器发送本地的加密动量，以使服务器根据从多个训练成员分别接收的加密动量，确定各更新的本地动量之和，得到总动量，根据总动量，更新当前模型参数。能够在多方联合训练模型时加快训练速度。
-
-
-
-
-
-
-
-
-
Search Results
382
records
(took 0.051 seconds)
