公开(公告)号：CN113919368A

公开(公告)日：2022-01-11

申请号：CN202111181497.8

申请日：2021-10-11

Applicant: 北京大学

Inventor： 赵东岩 ,  仇立松 ,  贾爱霞

IPC: G06F40/35 ,  G06F40/58 ,  G06K9/62

Abstract: 本申请提供一种基于多语言建模的低资源对话生成方法及系统，涉及自然语言处理技术领域，对于不同语言的对话问询进行编码，通过降噪自编码器与反向翻译模块将不同语言的嵌入表示约束在同一空间，并利用单一语言对话映射与跨语言对话映射方法来学习并共享不同语言对话的共性特征；训练算法包括一个基于多目标优化算法的多任务学习框架及其相应的梯度更新方式：通过对偶问题平衡多语言表示对齐任务与多语言对话映射任务，获得两个任务目标的权重系数，并对于回传的梯度进行加权，使得模型能够收敛到更好的结果；输入包括不同语言的对话问询；输出包括对话系统生成的各个问询所对应的回复。

公开(公告)号：CN113919368B

公开(公告)日：2024-05-24

申请号：CN202111181497.8

申请日：2021-10-11

Applicant: 北京大学

Inventor： 赵东岩 ,  仇立松 ,  贾爱霞

IPC: G06F40/35 ,  G06F40/58 ,  G06N3/0455 ,  G06N3/08

Abstract: 本申请提供一种基于多语言建模的低资源对话生成方法及系统，涉及自然语言处理技术领域，对于不同语言的对话问询进行编码，通过降噪自编码器与反向翻译模块将不同语言的嵌入表示约束在同一空间，并利用单一语言对话映射与跨语言对话映射方法来学习并共享不同语言对话的共性特征；训练算法包括一个基于多目标优化算法的多任务学习框架及其相应的梯度更新方式：通过对偶问题平衡多语言表示对齐任务与多语言对话映射任务，获得两个任务目标的权重系数，并对于回传的梯度进行加权，使得模型能够收敛到更好的结果；输入包括不同语言的对话问询；输出包括对话系统生成的各个问询所对应的回复。