公开(公告)号：CN114417824B

公开(公告)日：2024-09-10

申请号：CN202210045155.1

申请日：2022-01-14

Applicant: 大连海事大学

Inventor： 张益嘉 ,  杨名 ,  楚子漪

IPC: G06F40/211 ,  G06F40/154 ,  G06F40/295 ,  G06N3/045

Abstract: 本发明公开了基于依存句法预训练模型的篇章级关系抽取方法及系统，涉及自然语言处理技术领域，分别采用直接转换、双仿射转换和分解线性变换将依存句法信息引入到预训练模型中，分别比较不同引入方式的特点，分析依存句法信息对预训练模型的作用，同时探索图结构对预训练模型的辅助作用；将实体特征表示与实体间的距离特征进行拼接，丰富了实体的信息，有利于后续的篇章级关系抽取任务。本发明解决了目前预训练模型在篇章级关系抽取中处理长距离文本困难以及弱依赖的问题，不仅提高了预训练模型在篇章级关系抽取任务中处理长文本的能力和性能的精度，并且也探索出了图结构本身对预训练模型具有的辅助作用。

公开(公告)号：CN114417824A

公开(公告)日：2022-04-29

申请号：CN202210045155.1

申请日：2022-01-14

Applicant: 大连海事大学

Inventor： 张益嘉 ,  杨名 ,  楚子漪

IPC: G06F40/211 ,  G06F40/154 ,  G06F40/295 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了基于依存句法预训练模型的篇章级关系抽取方法及系统，涉及自然语言处理技术领域，分别采用直接转换、双仿射转换和分解线性变换将依存句法信息引入到预训练模型中，分别比较不同引入方式的特点，分析依存句法信息对预训练模型的作用，同时探索图结构对预训练模型的辅助作用；将实体特征表示与实体间的距离特征进行拼接，丰富了实体的信息，有利于后续的篇章级关系抽取任务。本发明解决了目前预训练模型在篇章级关系抽取中处理长距离文本困难以及弱依赖的问题，不仅提高了预训练模型在篇章级关系抽取任务中处理长文本的能力和性能的精度，并且也探索出了图结构本身对预训练模型具有的辅助作用。