公开(公告)号：CN115796144A

公开(公告)日：2023-03-14

申请号：CN202310069803.1

申请日：2023-02-07

Applicant: 中国科学技术大学

Inventor： 宋彦 ,  田元贺 ,  毛振东 ,  张勇东

IPC: G06F40/186 ,  G06F40/103 ,  G06F40/284

Abstract: 本发明涉及自然语言处理技术领域，公开了一种基于固定格式的受控文本生成方法，包括获取格式特征，映射格式向量，将格式向量组成格式矩阵，对格式矩阵编码得到关键字隐向量矩阵，预测的每个位置的关键字，映射关键字向量，组成关键字矩阵，得到输入隐向量矩阵，得到文本输出隐向量矩阵，预测备选文本，得到最终的生成文本；本发明能够依据生成文本的固定格式需求，使用非自回归模型同时生成文本中所有的字，提升了模型生成文本的效率。此外，本发明通过生成作为中间结果的关键字，进一步提升了模型生成文本的质量。

公开(公告)号：CN115600581A

公开(公告)日：2023-01-13

申请号：CN202211593665.9

申请日：2022-12-13

Applicant: 中国科学技术大学(CN)

Inventor： 宋彦 ,  田元贺 ,  毛振东 ,  张勇东

IPC: G06F40/211 ,  G06F40/268 ,  G06F40/284 ,  G06N3/04

Abstract: 本发明涉及受控场景的文本生成领域，公开了一种使用句法信息的受控文本生成方法，用于通过给定的输入文本，以及时刻t已输出文本，预测受控条件下当前时刻t的下一个输出字；本发明采用了标准的基于Transformer的编码‑解码架构，对输入中的每个字，通过注意力模块，利用与其关联的句法知识的表征，从而增强模型对文本生成过程中的受控特征的理解，从而提升生成的受控文本的质量。