-
公开(公告)号:CN114118081B
公开(公告)日:2024-07-26
申请号:CN202111350050.9
申请日:2021-11-15
Applicant: 上海交通大学
IPC: G06F40/289 , G06F40/211 , G06F16/35 , G06N5/04 , G06N3/045 , G06N3/082
Abstract: 本发明提供了一种基于句法对齐的自然语言推理方法及系统,包括给定多个句对,对词语进行划分得到一个个token,进行编码获得词向量特征;通过依赖分析器对句子的依赖关系进行解析,获得词语间的依赖关系,将token对应到词语中;搭建依赖关系捕捉模块,捕捉句内句法特征的加强表示;构造注意力机制网络,更新句子的结构化特征;将结构化特征作为分类依据,获得预测结果;通过模型的损失函数计算获得偏差,并对模型进行修正。本发明通过采用基于句法对齐的自然语言推理方法,基于图网络编码了词语之间的不同依赖关系,相较于传统方法,可以区分关系的重要性。使得输入模型的词语经过句法上下文特征的加强后,能够包含更多语义信息。
-
公开(公告)号:CN114118081A
公开(公告)日:2022-03-01
申请号:CN202111350050.9
申请日:2021-11-15
Applicant: 上海交通大学
IPC: G06F40/289 , G06F40/211 , G06F16/35 , G06N5/04 , G06N3/04 , G06N3/08
Abstract: 本发明提供了一种基于句法对齐的自然语言推理方法及系统,包括给定多个句对,对词语进行划分得到一个个token,进行编码获得词向量特征;通过依赖分析器对句子的依赖关系进行解析,获得词语间的依赖关系,将token对应到词语中;搭建依赖关系捕捉模块,捕捉句内句法特征的加强表示;构造注意力机制网络,更新句子的结构化特征;将结构化特征作为分类依据,获得预测结果;通过模型的损失函数计算获得偏差,并对模型进行修正。本发明通过采用基于句法对齐的自然语言推理方法,基于图网络编码了词语之间的不同依赖关系,相较于传统方法,可以区分关系的重要性。使得输入模型的词语经过句法上下文特征的加强后,能够包含更多语义信息。
-