Patent search ap:("华为云计算技术有限公司") AND inv:"何彬" Page 1

1.

发明公开
一种语言表征模型的训练方法以及训练装置审中-实审

公开(公告)号：CN116933789A

公开(公告)日：2023-10-24

申请号：CN202210318687.8

申请日：2022-03-29

Applicant: 华为云计算技术有限公司

Inventor： 陶建军 , 乔楠 , 张雷 , 苏嘉 , 何彬 , 沈雯

IPC: G06F40/295 , G06F16/36

Abstract: 本申请实施例公开了一种语言表征模型的训练方法以及训练装置，用于提升语言表征模型的模型精度。本申请实施例方法包括：获取第一语言数据，基于语言表征模型和第一语言数据进行多任务学习，得到目标损失函数，多任务学习包括掩码语言任务和关系分类任务，掩码语言任务用于根据语言表征模型生成的数据执行掩码语言任务，关系分类任务用于基于语言表征模型生成的数据执行关系分类任务。根据目标损失函数更新语言表征模型。

Patent Agency Ranking