基于ALBERT与中断BiLSTM的文本分类系统

    公开(公告)号:CN117131194A

    公开(公告)日:2023-11-28

    申请号:CN202311146159.X

    申请日:2023-09-06

    Inventor: 刘颖 袁学刚

    Abstract: 基于ALBERT与中断BiLSTM的文本分类系统,属于自然语言处理领域,为了解决现有文本分类中文本中多次出现的关键短语的表示会随着时序的推移而产生变化而无法关注局部关键特征信息的问题,要点是DBLSTM层,通过DBLSTM模型提取动态词向量表示的局部信息和全局信息特征,每次按照固定步长对输入的动态词向量表示进行学习训练,得到数据的隐状态特征向量,并将状态特征向量作为池化层的输入,效果是能够提高文本分类准确性。

Patent Agency Ranking