基于动态权重对比学习的多标签文本分类方法和系统

    公开(公告)号:CN114580433B

    公开(公告)日:2022-08-02

    申请号:CN202210477581.2

    申请日:2022-05-05

    Applicant: 北京大学

    Abstract: 本发明涉及信息检测技术领域,提出一种基于动态权重对比学习的多标签文本分类方法和系统,其中方法包括:预处理,得到训练集词向量和标签序列;采用基于预训练语言模型Bert和双向长短时记忆网络的分类模型对训练集多标签文本进行编码,得到包含语义信息的向量化表示;将标签序列和包含语义信息的向量化表示解码,得到预测的标签序列;通过联合交叉熵概率分布损失和对比学习损失计算预测的标签序列和标签序列之间的损失,根据损失优化分类模型作为多标签文本分类模型;将待分类的测试集多标签文本输入所述多标签文本分类模型,输出对应的最终的标签序列。根据该方法有效解决了多标签语义混淆现象以及多标签分类数据集中存在的长尾问题。

    基于动态权重对比学习的多标签文本分类方法和系统

    公开(公告)号:CN114580433A

    公开(公告)日:2022-06-03

    申请号:CN202210477581.2

    申请日:2022-05-05

    Applicant: 北京大学

    Abstract: 本发明涉及信息检测技术领域,提出一种基于动态权重对比学习的多标签文本分类方法和系统,其中方法包括:预处理,得到训练集词向量和标签序列;采用基于预训练语言模型Bert和双向长短时记忆网络的分类模型对训练集多标签文本进行编码,得到包含语义信息的向量化表示;将标签序列和包含语义信息的向量化表示解码,得到预测的标签序列;通过联合交叉熵概率分布损失和对比学习损失计算预测的标签序列和标签序列之间的损失,根据损失优化分类模型作为多标签文本分类模型;将待分类的测试集多标签文本输入所述多标签文本分类模型,输出对应的最终的标签序列。根据该方法有效解决了多标签语义混淆现象以及多标签分类数据集中存在的长尾问题。

Patent Agency Ranking