-
公开(公告)号：CN110991613A
公开(公告)日：2020-04-10
申请号：CN201911202733.2
申请日：2019-11-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种训练神经网络的方法及系统。所述方法包括：将训练数据输入N+K层神经网络，第N层神经网络输出第一概率分布，第N+K层神经网络输出第二概率分布；其中，N和K为大于0的整数；根据所述第一概率分布与所述训练数据的标签，确定第一反馈信号；根据所述第二概率分布与所述训练数据的标签，确定第二反馈信号；根据所述第一反馈信号调节1～N层神经网络的参数，以及根据所述第二反馈信号调节1～N+K层神经网络的参数，得到训练好的N层神经网络。
-
公开(公告)号：CN111241280B
公开(公告)日：2023-09-05
申请号：CN202010015197.1
申请日：2020-01-07
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/35
Abstract: 本说明书实施例提供一种文本分类模型的训练方法和文本分类方法。在一个实施例中，一种文本分类模型的训练方法，包括：获取训练样本集；将训练样本集中文本样本分别输入公有特征提取器和与文本样本关联的私有特征提取器，得到文本样本的第一特征和第二特征；将文本样本的第一特征和第二特征分别输入任务判别器，得到文本样本的第一任务判别结果和第二任务判别结果；基于文本样本的第一特征和第二特征，利用与文本样本关联的私有特征提取器对应的分类器，得到文本样本的分类结果；判断是否满足预设训练停止条件；若不满足，调整文本分类模型的参数，并继续训练调整后的文本分类模型，直至满足预设训练停止条件，得到训练后的文本分类模型。
-
公开(公告)号：CN111368997B
公开(公告)日：2022-09-06
申请号：CN202010143596.6
申请日：2020-03-04
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种神经网络模型的训练方法及装置，在训练方法中，基于在上一周期训练后的神经网络模型，分别确定在当前周期待训练的第一模型，以及用于辅助训练第一模型的第二模型。从样本集合中选取当前标定样本，并基于其执行以下步骤：将当前标定样本输入第一模型，得到第一概率分布。基于第一概率分布，确定当前标定样本的预测标签。将当前标定样本输入第二模型，得到第二概率分布。基于标定标签和预测标签，确定第一预测损失。基于第一概率分布和第二概率分布，确定第二预测损失。结合第一预测损失和第二预测损失，调整第一模型的参数。在全部样本选取完之后，将最后一次调整参数后的第一模型作为在当前周期训练后的神经网络模型。
-
公开(公告)号：CN110991613B
公开(公告)日：2022-08-02
申请号：CN201911202733.2
申请日：2019-11-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种训练神经网络的方法及系统。所述方法包括：将训练数据输入N+K层神经网络，第N层神经网络输出第一概率分布，第N+K层神经网络输出第二概率分布；其中，N和K为大于0的整数；根据所述第一概率分布与所述训练数据的标签，确定第一反馈信号；根据所述第二概率分布与所述训练数据的标签，确定第二反馈信号；根据所述第一反馈信号调节1～N层神经网络的参数，以及根据所述第二反馈信号调节1～N+K层神经网络的参数，得到训练好的N层神经网络。
-
公开(公告)号：CN111460127A
公开(公告)日：2020-07-28
申请号：CN202010566073.2
申请日：2020-06-19
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/332 , G06F40/169 , G06F40/205 , G06N20/00
Abstract: 本说明书实施例提供一种训练机器阅读模型的方法和装置，机器阅读模型用于根据问题和文档，预测问题在文档中的答案，方法包括：获取第一文档和第一问题集合；针对第一问题集合中的第一问题，将第一问题和第一文档输入机器阅读模型，得到第一问题在第一文档中的第一答案；将第一答案和第一文档输入问题生成模型，得到第一答案对应的第二问题；其中，机器阅读模型和问题生成模型互为对偶模型；根据第一问题和第二问题的差异，确定第一预测损失；以最小化第一预测损失为训练目标，执行对机器阅读模型和问题生成模型的第一训练。能够在缺乏训练数据的情况下实现机器阅读模型的训练。
-
Patent Agency Ranking
公开(公告)号：CN111221945A
公开(公告)日：2020-06-02
申请号：CN202010329631.3
申请日：2020-04-24
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/33
Abstract: 本说明书实施例提供一种基于用户问句生成标准问题的方法和装置，方法包括：获取目标用户与人工客服的第一多轮对话，所述第一多轮对话包括第一数目轮的用户问句和客服答案；提取所述第一多轮对话中第一数目轮的用户问句；对所述第一数目轮的用户问句至少进行拼接处理，得到第一输入文本；将所述第一输入文本输入预先训练的文本生成模型，得到所述第一多轮对话对应的标准问题。能够提高标准问题的生产效率，相应提升标准问题的覆盖率。
-
公开(公告)号：CN111104516B
公开(公告)日：2023-07-04
申请号：CN202010084986.0
申请日：2020-02-10
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/35
Abstract: 本说明书一个或多个实施例提供一种文本分类方法、装置及电子设备，基于BERT模型，所述BERT模型包括：至少两个依次连接的编码器层；所述方法，包括：将待分类文本输入所述BERT模型；采集每个所述编码器层的输出，得到对应于所述待分类文本的至少两个特征表示信息；融合至少两个所述特征表示信息，得到融合后的特征表示信息；融合后的特征表示信息充分利用每一编码器层的输出，且准确反映了文本所蕴含的词法和语法信息；根据所述融合后的特征表示信息，确定所述待分类文本的类型。
-
公开(公告)号：CN116775825A
公开(公告)日：2023-09-19
申请号：CN202310660565.1
申请日：2023-06-05
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/332 , G06F18/214 , G06F18/22 , G06F18/24 , G06N3/092
Abstract: 本公开提出了一种机器阅读模型优化方法和系统。该方法包括：获取目标领域中的对话日志；基于该对话日志来构建样本集合，该样本集合包括一个或多个样本问题和对应样本答案；将该样本集合中的样本问题和该目标领域的知识库文档输入到机器阅读模型，以获得样本问题的预测答案；基于样本问题的预测答案与对应样本答案的比较来确定模型质量度量和样本质量度量；对该机器阅读模型和该样本集合进行联合优化以使该模型质量度量和该样本质量度量满足相应预设条件，从而获得经优化的机器阅读模型。
-
公开(公告)号：CN111538822B
公开(公告)日：2023-05-09
申请号：CN202010330706.X
申请日：2020-04-24
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/332 , G06Q30/01 , G06N20/00
Abstract: 本说明书实施例提供一种智能客户服务机器人训练数据的生成方法和系统。该方法包括获取若干个样本数据，所述样本数据包括若干个具有顺序的样本片段，所述样本片段来自智能客户服务机器人或用户；获取与所述样本数据相关的多个候选资料片段；在所述样本数据中获取第一片段，所述第一片段与所述候选资料片段相似度满足第一预设条件，且来自所述智能客户服务机器人；基于所述第一片段，在所述样本数据中获取第二片段，所述第二片段与所述第一片段关联度满足第二预设条件，且来自所述用户；基于所述第二片段和所述候选资料片段生成训练数据。
-
公开(公告)号：CN111191722B
公开(公告)日：2022-08-09
申请号：CN201911395996.X
申请日：2019-12-30
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种通过计算机训练预测模型的方法和装置，可以将较前周期状态下的预测模型，作为较后周期的预测模型的老师模型，仅需要老师模型的历史概率分布，和样本标签一起为模型参数的调整指引方向。由于每个训练周期中，各个状态下的输入样本都随机抽取，如果当前训练周期当前状态下输入的当前样本有多个，则这多个样本可以携带有历史训练周期中不同状态下的模型参数信息，相当于同时向多个老师模型学习，加快学习效率，提升模型学习效果。同时，存储的数据仅为各个样本在相关历史周期的概率分布，以较低的计算成本和存储成本，达到同时向多个老师模型学习的效果，可以提高模型训练的有效性。
-
-
-
-
-
-
-
-
-
Search Results
26
records
(took 0.029 seconds)
