-
公开(公告)号：CN114859758A
公开(公告)日：2022-08-05
申请号：CN202210711294.3
申请日：2022-06-22
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G05B17/02
Abstract: 本说明书实施例提供了一种针对网络模型的攻防对抗仿真测试方法及系统。网络模型部署在防御方平台中，网络模型向各用户公开提供针对业务数据的预测服务。在仿真测试方法中，攻击方平台伪装成用户，基于攻击算法向防御方平台发送业务请求，业务请求携带待预测的业务数据。防御方平台，接收攻击方平台发送的业务请求，并通过网络模型确定业务数据的预测结果，基于预测结果向攻击方平台发送反馈数据。攻击方平台在接收到反馈数据时，且在反馈数据满足预设条件时调整攻击算法，例如在攻击失败时调整攻击算法的运行逻辑，采用不同的方式继续攻击。同时，防御方平台也对业务请求的处理过程进行异常检测，当检测到异常时采取对应的防御措施。
-
公开(公告)号：CN114723269A
公开(公告)日：2022-07-08
申请号：CN202210334912.7
申请日：2022-03-31
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/06 , G06K9/62 , G06V10/764
Abstract: 本说明书实施例公开了一种事件的风险防控方法、装置及设备，该方法包括：获取目标事件的待处理的事件数据，然后，基于所述事件数据和所述目标事件对应的第一风控模型，确定所述第一风控模型对应的风险检测结果，所述第一风控模型是由所述目标事件对应的风控策略构建的模型，最终，可以基于所述第一风控模型对应的风险检测结果确定所述事件数据对应的初始风险信息，并将所述事件数据对应的初始风险信息和所述事件数据输入到所述目标事件对应的第二风控模型中，得到所述事件数据对应的风险信息，所述第二风控模型是通过所述目标事件对应的事件数据样本进行模型训练得到的模型。
-
公开(公告)号：CN113313575B
公开(公告)日：2022-06-03
申请号：CN202110640452.6
申请日：2021-06-08
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书一个或多个实施例提供了一种风险识别模型的确定方法及装置，其中，该方法包括：获取目标业务对应的模型训练样本数据和针对目标业务所配置的风控策略信息；基于该模型训练样本数据和用于风险识别的分类模型，对各风控策略信息对应的策略权重进行更新，得到更新后的策略权重；基于该模型训练样本数据和更新后的策略权重，对该分类模型的模型参数进行更新，得到更新后的分类模型；若更新后的分类模型满足预设模型优化终止条件，则将该更新后的分类模型确定为训练后的风险识别模型；若更新后的分类模型不满足预设模型优化终止条件，则将该分类模型作为下一轮策略权重更新所用的用于风险识别的分类模型。
-
公开(公告)号：CN113987592A
公开(公告)日：2022-01-28
申请号：CN202111617403.7
申请日：2021-12-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种文本数据的保密处理方法和装置。该方法包括：得到原始文本数据；将所述原始文本数据输入预先训练的文本生成模型，得到该文本生成模型输出的相似文本数据；该相似文本数据与原始文本数据的文本内容不同，但，该相似文本数据与原始文本数据的语义相似度大于预定值；提供所述相似文本数据。本说明书实施例能够更为有效地阻止文本数据内容的泄露。
-
公开(公告)号：CN115643056A
公开(公告)日：2023-01-24
申请号：CN202211213698.6
申请日：2022-09-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种网络模型的防攻击能力测试方法及装置。在该方法中，服务平台执行可以提供自定义待测试的网络模型，自定义针对网络模型的自然测试集，自定义针对网络模型的攻击方式，以及自定义用于评估网络模型的防攻击效果的评估指标的功能。当确定待检测的网络模型以及自然测试集、攻击方式和评估指标之后，可以利用自然测试集，在攻击方式下确定网络模型输出的预测结果，并基于评估指标和预测结果，对网络模型的防攻击能力进行评估，得到评估结果。
-
Patent Agency Ranking
公开(公告)号：CN113313404B
公开(公告)日：2022-12-06
申请号：CN202110662087.9
申请日：2021-06-15
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种生成对抗样本的方法和装置，其中方法包括，首先获取目标风险样本的原始样本特征以及风险检测模型。针对该目标风险样本，在预定特征空间中，确定预定数目T个基准方向；依次按照T个基准方向中的不同基准方向，以预设的第一步长，执行若干轮特征变换，直到得到第一变换特征，其中风险检测模型针对该第一变换特征的预测值落入非风险样本对应的预定区间。然后，针对该第一变换特征，沿最后一次特征变换方向的逆向，以依次增大的回退幅度执行若干次回退操作，直到得到第二变换特征，该风险检测模型针对第二变换特征的预测值达到前述预定区间的边界。于是，可以根据该第二变换特征，形成目标风险样本对应的对抗样本。
-
公开(公告)号：CN114723269B
公开(公告)日：2024-11-12
申请号：CN202210334912.7
申请日：2022-03-31
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/0635 , G06F18/24 , G06F18/21
Abstract: 本说明书实施例公开了一种事件的风险防控方法、装置及设备，该方法包括：获取目标事件的待处理的事件数据，然后，基于所述事件数据和所述目标事件对应的第一风控模型，确定所述第一风控模型对应的风险检测结果，所述第一风控模型是由所述目标事件对应的风控策略构建的模型，最终，可以基于所述第一风控模型对应的风险检测结果确定所述事件数据对应的初始风险信息，并将所述事件数据对应的初始风险信息和所述事件数据输入到所述目标事件对应的第二风控模型中，得到所述事件数据对应的风险信息，所述第二风控模型是通过所述目标事件对应的事件数据样本进行模型训练得到的模型。
-
公开(公告)号：CN116128072B
公开(公告)日：2023-08-25
申请号：CN202310122752.4
申请日：2023-01-20
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00 , G06V10/774 , G06F18/214
Abstract: 本说明书公开了一种风险控制模型的训练方法、装置、设备及存储介质，针对该风险控制模型的每个模型参数，确定该模型参数在本次迭代过程中的梯度，作为第一梯度，并确定该模型参数在上一次迭代过程中的梯度，作为第二梯度，根据第一梯度和该第二梯度确定该模型参数的步长参数，再根据预设的学习率、步长参数和第一梯度，确定该模型参数对应的参数调整量，以及根据参数调整量对该模型参数进行调整。本方法中的步长参数在第一梯度和第二梯度方向相同时对应的参数值高于第一梯度和第二梯度方向相反时对应的参数值，因而在模型参数出现震荡时，参数调整量会随之减小，避免了由于参数调整量过大导致模型参数出现持续震荡的情况出现，提高了训练效率。
-
公开(公告)号：CN116128072A
公开(公告)日：2023-05-16
申请号：CN202310122752.4
申请日：2023-01-20
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00 , G06V10/774 , G06F18/214
Abstract: 本说明书公开了一种风险控制模型的训练方法、装置、设备及存储介质，针对该风险控制模型的每个模型参数，确定该模型参数在本次迭代过程中的梯度，作为第一梯度，并确定该模型参数在上一次迭代过程中的梯度，作为第二梯度，根据第一梯度和该第二梯度确定该模型参数的步长参数，再根据预设的学习率、步长参数和第一梯度，确定该模型参数对应的参数调整量，以及根据参数调整量对该模型参数进行调整。本方法中的步长参数在第一梯度和第二梯度方向相同时对应的参数值高于第一梯度和第二梯度方向相反时对应的参数值，因而在模型参数出现震荡时，参数调整量会随之减小，避免了由于参数调整量过大导致模型参数出现持续震荡的情况出现，提高了训练效率。
-
公开(公告)号：CN116010792A
公开(公告)日：2023-04-25
申请号：CN202211737623.8
申请日：2022-12-30
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/21 , G06N20/00 , G06Q10/0635
Abstract: 本说明书实施例提供了一种测试模型鲁棒性的方法和装置，该方法包括：获取多个第一样本，第一样本各自包括依序的多个用户行为，用户行为包括若干行为属性；对多个第一样本分别进行第一处理，得到多个第二样本，其中，对于多个第一样本中包括的第三样本的第一处理包括：从第三样本包括的用户行为的行为属性中，确认出至少一个第一属性；将第一属性设置为第一默认值，第一默认值用于指示第一属性的值缺失，得到第四样本，多个第二样本中包括第四样本；基于多个第一样本，确定第一风险识别模型的第一正确识别率；基于多个第二样本，确定第一风险识别模型的第二正确识别率；根据第一正确识别率和第二正确识别率，确定针对所述第一风险识别模型的第一指标，所述第一指标用于指示所述第一风险识别模型的鲁棒性。
-
-
-
-
-
-
-
-
-
Search Results
29
records
(took 0.03 seconds)
