公开(公告)号：CN118377902A

公开(公告)日：2024-07-23

申请号：CN202410558192.1

申请日：2024-05-08

Applicant: 广西师范大学

Inventor： 朱新华 ,  张宗田 ,  张兰芳 ,  提平 ,  彭琦

IPC: G06F16/35 ,  G06F40/30 ,  G06N3/0464 ,  G06N3/0499 ,  G06N3/084

Abstract: 本发明公开了一种基于BERT神经网络的慕课帖子分类方法，能够快速区分出慕课论坛中的紧急帖子和非紧急帖子，涉及人工智能与智慧教育的交叉领域。首先，使用BERT模型的输出作为动态词向量，使同一个单词在不同的慕课帖子的上下文中表示不同的语义，以便下游网络能更精确的提取出文本特征。其次，利用增强CNN和并行CNN对BERT的输出进行局部语义提取，再利用Bi‑GRU进行深度局部特征提取，生成局部分类向量；同时，利用双层逐点前馈网络和多头自注意力对BERT的输出进行全局语义细化，生成全局分类向量。最终，组合全局和局部分类向量，获得更具表现力的分类向量，提高紧急帖子分类的F1分数。