-
公开(公告)号:CN111061862A
公开(公告)日:2020-04-24
申请号:CN201911293797.8
申请日:2019-12-16
Applicant: 湖南大学
IPC: G06F16/34 , G06F40/30 , G06F40/284 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种基于注意力机制生成摘要的方法来生成文本摘要,本发明一共包括两个阶段:第一个阶段是句子排序过程,第二阶段是摘要生成过程,其输入是通过第一阶段得到的与文章主题最相关的N个句子。在第一阶段中,对于带有标题的文章本文提出一种监督式的排序方法,首先计算每一个句子与标题之间相似度,再根据相似度对文章进行排序,最后选取相似度最高的N个句子。对于第二阶段,本发明提出了一种新的计算编码器和解码器之间注意分布的方法,即在不同时间里,解码器应该关注编码器中的不同部分。本发明通过排序方法和摘要生成方法,缓解了文章过长时必须直接截断一部分文本作为摘要生成模型的输入所导致的文章信息衰减问题。
-
公开(公告)号:CN111046673B
公开(公告)日:2021-09-03
申请号:CN201911296950.2
申请日:2019-12-17
Applicant: 湖南大学
Abstract: 本发明公开了一种用于防御文本恶意样本的对抗生成网络及其训练方法,利用对抗生成网络框架中的生成模型(Generator)和判别模型(Discriminator)进行恶意样本的防御与生成。生成器部分由自编码器(Auto‑encoder)构成,将离散的文本数据映射到连续的高维隐藏空间中,由此生成器可以利用隐藏向量生成恶意文本。判别器即判别模型,用于识别数据。生成模型生成的恶意文本将被打上真实标签与真实样本同时输入判别模型中,来进行判别模型的训练。加入恶意样本训练的判别模型能够对文本数据准确高效的识别。生成模型利用判别模型对恶意样本的评估分数以及文本数据与恶意样本的差别进行训练,来生成攻击力更强的恶意样本。由于训练过程中恶意样本的加入和对抗性的网络训练过程,网络识别文本数据能力和抗干扰性、防御能力都大幅提升。
-
公开(公告)号:CN111061862B
公开(公告)日:2020-12-15
申请号:CN201911293797.8
申请日:2019-12-16
Applicant: 湖南大学
IPC: G06F16/34 , G06F40/30 , G06F40/284 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种基于注意力机制生成摘要的方法来生成文本摘要,本发明一共包括两个阶段:第一个阶段是句子排序过程,第二阶段是摘要生成过程,其输入是通过第一阶段得到的与文章主题最相关的N个句子。在第一阶段中,对于带有标题的文章本文提出一种监督式的排序方法,首先计算每一个句子与标题之间相似度,再根据相似度对文章进行排序,最后选取相似度最高的N个句子。对于第二阶段,本发明提出了一种新的计算编码器和解码器之间注意分布的方法,即在不同时间里,解码器应该关注编码器中的不同部分。本发明通过排序方法和摘要生成方法,缓解了文章过长时必须直接截断一部分文本作为摘要生成模型的输入所导致的文章信息衰减问题。
-
公开(公告)号:CN111046673A
公开(公告)日:2020-04-21
申请号:CN201911296950.2
申请日:2019-12-17
Applicant: 湖南大学
Abstract: 本发明公开了一种用于防御文本恶意样本的对抗生成网络及其训练方法,利用对抗生成网络框架中的生成模型(Generator)和判别模型(Discriminator)进行恶意样本的防御与生成。生成器部分由自编码器(Auto-encoder)构成,将离散的文本数据映射到连续的高维隐藏空间中,由此生成器可以利用隐藏向量生成恶意文本。判别器即判别模型,用于识别数据。生成模型生成的恶意文本将被打上真实标签与真实样本同时输入判别模型中,来进行判别模型的训练。加入恶意样本训练的判别模型能够对文本数据准确高效的识别。生成模型利用判别模型对恶意样本的评估分数以及文本数据与恶意样本的差别进行训练,来生成攻击力更强的恶意样本。由于训练过程中恶意样本的加入和对抗性的网络训练过程,网络识别文本数据能力和抗干扰性、防御能力都大幅提升。
-
-
-