-
公开(公告)号：CN111143894B
公开(公告)日：2022-01-28
申请号：CN201911354576.7
申请日：2019-12-24
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/71
Abstract: 本说明书实施例公开了一种提升安全多方计算效率的方法及系统，所述方法包括：所述第一计算方接收第二计算方发送的比尔三元组的三个随机数a，b，c的第一分片，其中，a*b＝c，所述特征乘数x与所述随机数a对应；所述第一计算方将所述随机数a的第一分片存储至本地；所述第一计算方接收所述第二计算方发送的随机数b和c的第二分片，所述随机数b和c的第二分片与对应的所述随机数b和c的第一分片不同；所述第一计算方将所述存储的a的第一分片与随机数b和c的第二分片结合得到比尔三元组的第二分片，以基于该第二分片完成所述安全多方计算中的乘法。通过该方法实现安全多方计算，可以有效的保护用户的隐私。
-
公开(公告)号：CN113869529A
公开(公告)日：2021-12-31
申请号：CN202111456965.8
申请日：2021-12-02
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种用于生成第一自然样本的对抗样本的方法、模型评估方法、装置和计算机设备。所述用于生成第一自然样本的对抗样本的方法包括：获取第一对抗样本，所述第一对抗样本的标签与第一自然样本不同；使第一对抗样本接近第一自然样本，直至第一对抗样本与第一自然样本之间的相似程度满足条件并且第一对抗样本的标签与第一自然样本不同；将新的第一对抗样本确定为第一自然样本的对抗样本。本说明书实施例可以生成具有较强攻击性的对抗样本，另外，还可以全面地评估机器学习模型的对抗训练效果。
-
公开(公告)号：CN113822443A
公开(公告)日：2021-12-21
申请号：CN202111364482.5
申请日：2021-11-17
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及人工智能领域，特别涉及一种对抗攻击和生成对抗样本的方法。其中，生成对抗样本的方法包括：基于初始样本及其标签、以及待攻击模型，进行一轮或多轮迭代，以构造对抗样本；其中的一轮迭代包括：获取当前轮的待调整样本；当当前轮为第一轮迭代时，所述待调整样本为所述初始样本，否则为前一轮的对抗样本；利用待攻击模型处理所述待调整样本，得到第一输出；基于所述第一输出和所述标签的差异、以及扰动系数，确定扰动数据；将所述扰动数据添加到所述待调整样本中，以获得当前轮的对抗样本；其中，所述扰动系数能够被调整，以使得对抗样本与初始样本间的差异逼近但不超过预设的扰动边界值。
-
公开(公告)号：CN113806754A
公开(公告)日：2021-12-17
申请号：CN202111363866.5
申请日：2021-11-17
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种后门防御方法和系统。其中，该方法包括对目标模型进行一轮或多轮更新，其中一轮更新包括：将多个干净数据输入目标模型，获取目标模型中至少部分计算单元的多个输出数据；对于至少部分计算单元中的每一个，基于其多个输出数据确定该计算单元对多个干净数据的响应性指标；基于所述响应性指标，从所述至少部分计算单元中确定一个或多个待处理计算单元；至少对所述待处理计算单元进行处理，以增加所述目标模型对后门攻击的防御能力。
-
公开(公告)号：CN113407987A
公开(公告)日：2021-09-17
申请号：CN202110564443.3
申请日：2021-05-24
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种保护隐私的确定业务数据特征有效值的方法及装置。业务数据分布在多个参与方中，多个参与方的业务数据能假定拼接成联合数据，其中包括多个对象针对多个特征项的特征值。多方分别获取联合数据分片、多个对象分别对应的预测值分片以及多个特征项分别对应的模型参数分片。这些预测值分片和模型参数分片均基于业务预测模型得到。多方可以利用多方安全计算，基于多方的联合数据分片和预测值分片，确定多方分别对应的相关性数据分片，其中包括多个特征项之间的相关性数据；然后，采用显著性检验法，基于多方的模型参数分片和相关性数据分片中的对应数据，确定模型参数对应的特征项在提升业务预测模型效果上的有效值。
-
Patent Agency Ranking
公开(公告)号：CN113379039A
公开(公告)日：2021-09-10
申请号：CN202110752427.7
申请日：2021-07-02
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种模型的训练方法、系统及装置，可用于机器学习过程中的隐私数据保护，所述方法由参与方中的任一训练成员实现，包括：基于自身持有的训练样本进行模型训练，获得模型数据列表；从模型数据列表中的一个或多个卷积核对应的子矩阵中选取若干子矩阵，并确定所选子矩阵在模型数据列表中的第一位置信息；从模型数据列表中除卷积核对应的子矩阵以外的元素中选取若干非卷积核元素，并确定反映选取的非卷积核元素在模型数据列表中的第二位置信息；确定包括第一位置信息以及第二位置信息的传输数据列表，并将其上传至服务器；获取服务器下发的模型数据更新列表，并基于模型数据更新列表进行本地模型更新。
-
公开(公告)号：CN111915023B
公开(公告)日：2021-09-07
申请号：CN202010884802.9
申请日：2020-08-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种基于联邦学习的超参数确定方法及装置。该方法用于确定业务预测模型的超参数，该业务预测模型的多个计算层被划分为包含连续后M个计算层的第一部分模型和包含剩余计算层的第二部分模型，第一部分模型部署在服务器中，第二部分模型部署在多个训练成员中。在任意一次超参迭代过程中，服务器将第一超参数组中的多个超参数向量分别发送至对应的训练成员，并与多个训练成员之间，多次执行针对业务预测模型的模型迭代过程，在多次模型迭代过程完成后，利用安全聚合算法，基于多个训练成员利用各自的测试集得到的业务预测模型的分立预测性能值，确定聚合预测性能值，基于聚合预测性能值，更新第一超参数组。
-
公开(公告)号：CN113052329A
公开(公告)日：2021-06-29
申请号：CN202110390904.X
申请日：2021-04-12
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种基于隐私保护的联合更新业务模型的方法及装置，其中，在一次迭代过程中，服务方向各个数据方提供全局模型参数，以及各个数据方各自与全局模型参数划分的N个参数组的对应关系，由各个数据方各自利用全局模型参数更新本地业务模型，并基于本地业务数据对更新后的本地业务模型进一步更新，以将新的业务模型中各自所对应参数组的模型参数上传至服务方，进而由服务方依次对接收到的各个参数组进行融合，更新全局模型参数。该过程可以减少数据方与服务方的通信压力，避免造成通信阻塞，有利于提高联邦学习的整体训练效率。
-
公开(公告)号：CN113052323A
公开(公告)日：2021-06-29
申请号：CN202110306735.7
申请日：2021-03-23
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种基于联邦学习的模型训练方法、装置和电子设备。所述方法包括：利用以下步骤进行迭代处理，直至满足迭代结束条件：接收多个参与方上传的第一模型参数信息及其对应的模型性能；以接收的第一模型参数信息为初始种群中的个体，以接收的模型性能为初始种群中个体的适应度，根据适应度，对所述初始种群中的个体进行遗传操作，得到优化种群；其中，所述优化种群中的个体用于表示第二模型参数信息；向多个参与方发送第二模型参数信息。本说明书实施例可以提高模型训练效率。
-
公开(公告)号：CN113033823A
公开(公告)日：2021-06-25
申请号：CN202110424366.1
申请日：2021-04-20
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种模型训练方法、系统和装置，能够用于数据隐私保护。该方法包括，各训练成员将自身持有的训练样本的特征数据输入至模型的第一部分，得到初始输出矩阵；接收标签预测值，基于训练样本的标签值以及所述标签预测值确定损失函数值；将所述损失函数值传输给所述服务器，以便服务器基于所述损失函数值在模型的第二部分中反向传播梯度，直到获取输出梯度矩阵；基于所述损失函数相对模型的第一部分中各层的输出数据的梯度，继续反向传播梯度，以对模型的第一部分的模型参数进行更新；基于更新后的模型的第一部分进行下一轮迭代更新，或者基于此确定最终模型的第一部分。
-
-
-
-
-
-
-
-
-
Search Results
382
records
(took 0.048 seconds)
