-
公开(公告)号：CN114859758A
公开(公告)日：2022-08-05
申请号：CN202210711294.3
申请日：2022-06-22
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G05B17/02
Abstract: 本说明书实施例提供了一种针对网络模型的攻防对抗仿真测试方法及系统。网络模型部署在防御方平台中，网络模型向各用户公开提供针对业务数据的预测服务。在仿真测试方法中，攻击方平台伪装成用户，基于攻击算法向防御方平台发送业务请求，业务请求携带待预测的业务数据。防御方平台，接收攻击方平台发送的业务请求，并通过网络模型确定业务数据的预测结果，基于预测结果向攻击方平台发送反馈数据。攻击方平台在接收到反馈数据时，且在反馈数据满足预设条件时调整攻击算法，例如在攻击失败时调整攻击算法的运行逻辑，采用不同的方式继续攻击。同时，防御方平台也对业务请求的处理过程进行异常检测，当检测到异常时采取对应的防御措施。
-
公开(公告)号：CN114723269A
公开(公告)日：2022-07-08
申请号：CN202210334912.7
申请日：2022-03-31
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/06 , G06K9/62 , G06V10/764
Abstract: 本说明书实施例公开了一种事件的风险防控方法、装置及设备，该方法包括：获取目标事件的待处理的事件数据，然后，基于所述事件数据和所述目标事件对应的第一风控模型，确定所述第一风控模型对应的风险检测结果，所述第一风控模型是由所述目标事件对应的风控策略构建的模型，最终，可以基于所述第一风控模型对应的风险检测结果确定所述事件数据对应的初始风险信息，并将所述事件数据对应的初始风险信息和所述事件数据输入到所述目标事件对应的第二风控模型中，得到所述事件数据对应的风险信息，所述第二风控模型是通过所述目标事件对应的事件数据样本进行模型训练得到的模型。
-
公开(公告)号：CN113313575B
公开(公告)日：2022-06-03
申请号：CN202110640452.6
申请日：2021-06-08
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书一个或多个实施例提供了一种风险识别模型的确定方法及装置，其中，该方法包括：获取目标业务对应的模型训练样本数据和针对目标业务所配置的风控策略信息；基于该模型训练样本数据和用于风险识别的分类模型，对各风控策略信息对应的策略权重进行更新，得到更新后的策略权重；基于该模型训练样本数据和更新后的策略权重，对该分类模型的模型参数进行更新，得到更新后的分类模型；若更新后的分类模型满足预设模型优化终止条件，则将该更新后的分类模型确定为训练后的风险识别模型；若更新后的分类模型不满足预设模型优化终止条件，则将该分类模型作为下一轮策略权重更新所用的用于风险识别的分类模型。
-
公开(公告)号：CN113987592A
公开(公告)日：2022-01-28
申请号：CN202111617403.7
申请日：2021-12-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种文本数据的保密处理方法和装置。该方法包括：得到原始文本数据；将所述原始文本数据输入预先训练的文本生成模型，得到该文本生成模型输出的相似文本数据；该相似文本数据与原始文本数据的文本内容不同，但，该相似文本数据与原始文本数据的语义相似度大于预定值；提供所述相似文本数据。本说明书实施例能够更为有效地阻止文本数据内容的泄露。
-
公开(公告)号：CN115643056A
公开(公告)日：2023-01-24
申请号：CN202211213698.6
申请日：2022-09-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供了一种网络模型的防攻击能力测试方法及装置。在该方法中，服务平台执行可以提供自定义待测试的网络模型，自定义针对网络模型的自然测试集，自定义针对网络模型的攻击方式，以及自定义用于评估网络模型的防攻击效果的评估指标的功能。当确定待检测的网络模型以及自然测试集、攻击方式和评估指标之后，可以利用自然测试集，在攻击方式下确定网络模型输出的预测结果，并基于评估指标和预测结果，对网络模型的防攻击能力进行评估，得到评估结果。
-
Patent Agency Ranking
公开(公告)号：CN113313404B
公开(公告)日：2022-12-06
申请号：CN202110662087.9
申请日：2021-06-15
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种生成对抗样本的方法和装置，其中方法包括，首先获取目标风险样本的原始样本特征以及风险检测模型。针对该目标风险样本，在预定特征空间中，确定预定数目T个基准方向；依次按照T个基准方向中的不同基准方向，以预设的第一步长，执行若干轮特征变换，直到得到第一变换特征，其中风险检测模型针对该第一变换特征的预测值落入非风险样本对应的预定区间。然后，针对该第一变换特征，沿最后一次特征变换方向的逆向，以依次增大的回退幅度执行若干次回退操作，直到得到第二变换特征，该风险检测模型针对第二变换特征的预测值达到前述预定区间的边界。于是，可以根据该第二变换特征，形成目标风险样本对应的对抗样本。
-
公开(公告)号：CN114091670B
公开(公告)日：2025-01-03
申请号：CN202111397100.9
申请日：2021-11-23
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/01 , G06N20/20 , G06F18/243 , G06F18/40
Abstract: 本说明书公开了一种模型线上更新方法及装置。所述方法包括：获取预设树模型的副本和新训练样本集合；所述预设树模型为：当前线上运行的提升树模型或当前线上运行的梯度提升决策树模型；将所述副本当前的叶子节点输出值确定为旧叶子节点输出值；在保持所述副本结构不变的情况下，根据所述新训练样本集合更新所述副本的叶子节点输出值，将更新后的叶子节点输出值确定为新叶子节点输出值；针对所述副本的每个叶子节点，计算对应的新叶子节点输出值和对应的旧叶子节点输出值的加权和，并将该叶子节点的输出值更新为所述加权和，得到新的副本树模型；将所述新的副本树模型部署到线上，所述新的副本树模型用于在预设情况下替换所述预设树模型。
-
公开(公告)号：CN114241268B
公开(公告)日：2024-09-03
申请号：CN202111574537.5
申请日：2021-12-21
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/214
Abstract: 本说明书实施例公开了一种模型的训练方法、装置及设备，该方法包括：获取第一数量的第一训练样本，然后，从所述第一数量的第一训练样本中选取第二数量的第一训练样本，并分别向第二数量的第一训练样本中加入相应的噪声数据，得到所述第二数量的第二训练样本，最终，可以基于剩余的第一训练样本和所述第二数量的第二训练样本，通过预设的基于梯度的对抗攻击算法对目标模型进行训练，得到训练后的目标模型。
-
公开(公告)号：CN117313739A
公开(公告)日：2023-12-29
申请号：CN202311149563.2
申请日：2023-09-06
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F40/30 , G06F40/289 , G06F18/214
Abstract: 本申请公开了一种语言模型的训练方法、装置、设备及存储介质，通过确定预训练后的语言模型对应的待定模板，再对第一原始文本进行数据增强，得到增强文本，并将增强文本和待定模板进行组合后得到的第一组合结果输入语言模型中，得到增强文本的输出结果，最后再根据增强文本的输出结果和第一原始文本的标注之间的差距，来调整该语言模型对应的待定模板，以将调整完成的待定模板作为该语言模型匹配的目标模板。本申请通过对第一原始文本进行数据增强来确定增强文本，并通过增强文本对该语言模型对应的待定模板进行调整，使得该语言模型可通过调整完成的待定模板基于原始文本和增强文本都可准确执行自然语言处理任务，保证了语言模型的鲁棒性。
-
公开(公告)号：CN116702131A
公开(公告)日：2023-09-05
申请号：CN202310648022.8
申请日：2023-06-02
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/55 , G06F18/214
Abstract: 本说明书实施例公开了一种数据处理方法、装置及设备，该方法包括：获取能够实现对目标模型进行迁移攻击的代理模型，以及所述代理模型的原始样本；对所述代理模型进行结构重参数化处理，得到重参数化代理模型和所述重参数化代理模型的第一模型权重；基于预设的优化搜索规则、所述重参数化代理模型和所述重参数化代理模型的第一模型权重，确定所述重参数化代理模型对应的对抗迁移性评估结果优于预设评估基准的第二模型权重，基于所述第二模型权重更新所述重参数化代理模型，得到更新后的代理模型；基于所述原始样本，通过所述更新后的代理模型，生成用于攻击所述目标模型的对抗样本。
-
-
-
-
-
-
-
-
-
Search Results
29
records
(took 0.033 seconds)
