-
公开(公告)号：CN114444695A
公开(公告)日：2022-05-06
申请号：CN202210080808.X
申请日：2022-01-24
Applicant: 重庆邮电大学
Abstract: 本发明属于自然语言处理领域，具体涉及一种基于预训练模型和图卷积神经网络的知识问答方法；该方法包括：根据问题信息构建知识子图；采用PageRank算法完善知识子图；采用预训练模型对问题进行编码，得到初始问题向量；采用图卷积神经网络对知识子图进行编码，得到初始实体向量；根据初始问题向量和初始实体向量对知识子图进行更新；计算更新后的知识子图中所有关系的关系得分，根据关系得分构建知识子图关系集合；计算初始问答匹配分数；计算问题与每个候选答案的最终问答匹配分数，选择最终问答匹配分数最高的候选答案作为问题的答案；本发明能提高多跳推理知识问答的答案准确率，具有广阔的应用前景。
-
公开(公告)号：CN119990132A
公开(公告)日：2025-05-13
申请号：CN202510084440.8
申请日：2025-01-20
Applicant: 重庆邮电大学
IPC: G06F40/295 , G06N3/0442 , G06N3/045 , G06F40/30
Abstract: 本发明属于自然语言处理技术领域，具体涉及一种基于提示学习与标签感知的命名实体识别方法；包括：在预处理好的命名实体识别数据中的每一句话前拼接多个提示模板；为处理后的句子添加提示掩码并输入到BERT模型中，得到提示槽与句子的语义表征；将实体标签输入到BERT模型中，得到标签语义表征；将句子的语义表征输入到双向LSTM中并对提示槽语义表征使用自注意力机制处理，进一步得到句子上下文语义矩阵与提示槽深层语义矩阵；根据提示槽深层语义矩阵和标签语义表征计算分类槽概率分布，实现实体分类；根据句子上下文语义矩阵和提示槽深层语义矩阵计算定位槽概率分布，实现实体定位；本发明能显著提高模型的实体提取能力，同时减少时间与空间开销。
-
公开(公告)号：CN119537554A
公开(公告)日：2025-02-28
申请号：CN202411700335.4
申请日：2024-11-25
Applicant: 重庆邮电大学
IPC: G06F16/3329 , G06F18/23213 , G06F18/214 , G06N3/0455 , G06N3/084 , G06N3/0499 , G06F17/16 , G06F17/18 , G06F40/289
Abstract: 本发明属于自然语言处理与参数高效微调领域，具体涉及一种基于低秩自适应矩阵和混合专家的多领域问答任务微调方法，该方法包括：加载数据集并划分；使用句向量模型抽取数据集句向量表示，对句向量使用K均值聚类算法获得类别数N；加载预训练语言模型，冻结原模型参数；在模型中指定的结构旁构建N个非对称的低秩专家模块以及路由模块；将句向量表示作为路由模块输入，路由模块计算专家权重并将不同专家加权求和。所述多领域问答任务微调方法包括低秩自适应矩阵以及混合专家模块。本发明利用低秩自适应矩阵显著降低可训练参数数量，提高训练效率；使用混合专家模块，学习复杂问答任务中不同领域问题的专有知识，提高模型的泛化能力。
-
公开(公告)号：CN119938928A
公开(公告)日：2025-05-06
申请号：CN202510028268.4
申请日：2025-01-08
Applicant: 重庆邮电大学
IPC: G06F16/353 , G06F16/334 , G06F18/22 , G06F18/2415 , G06N3/042 , G06N3/0895 , G06N3/045
Abstract: 本发明属于自然语言处理与对话情绪识别领域，具体涉及一种基于双图注意力神经网络和对比学习的对话情绪识别方法，包括：对数据集进行预处理；将预处理后的数据输入到训练好的对话情绪识别模型中，得到对话中每句发言属于各个情感类别的概率。所述对话情绪识别模型包括双图注意力神经网络模型和对比学习模块，本发明利用包含两个异构图神经网络的双图注意力神经网络模型获取上下文相关的发言情感特征，解决了以往方法中，简单结构的图神经网络提取信息能力弱和复杂结构的图神经网络容易产生噪声的问题；再利用对比学习模块计算经模型提取后的发言特征之间的相似度，并依此计算损失，用于解决以往方法中少样本的情感分类准确率低的问题。
-
-
-
Search Results
4
records
(took 0.024 seconds)
